PB 電子会議室
発言No. | 更新日 | 題名(クリックすると発言内容と関連するコメントが表示されます) |
---|---|---|
17833 | 02/07/25 13:29:30 | RE(13):PB7.0: 浮動小数点データについて By Nana |
17832 | 02/07/25 13:22:16 | RE(12):PB7.0: 浮動小数点データについて By Nana |
17831 | 02/07/25 12:47:25 | RE(11):PB7.0: 浮動小数点データについて By あすかちゃんの父 |
17830 | 02/07/25 12:01:00 | RE(10):PB7.0: 浮動小数点データについて By M.M |
17829 | 02/07/25 10:59:13 | RE(9):PB7.0: 浮動小数点データについて By Nana |
17828 | 02/07/25 10:29:33 | RE(8):PB7.0: 浮動小数点データについて By M.M |
17827 | 02/07/25 10:15:27 | RE(7):PB7.0: 浮動小数点データについて By みく |
17826 | 02/07/25 09:25:26 | RE(6):PB7.0: 浮動小数点データについて By Nana |
17825 | 02/07/25 09:07:36 | RE(5):PB7.0: 浮動小数点データについて By みく |
17824 | 02/07/25 08:59:33 | RE(4):PB7.0: 浮動小数点データについて By Nana |
17823 | 02/07/25 08:36:15 | RE(3):PB7.0: 浮動小数点データについて By みく |
17821 | 02/07/25 08:01:10 | RE(2):PB7.0: 浮動小数点データについて By Nana |
17819 | 02/07/24 22:07:31 | RE(1):PB7.0: 浮動小数点データについて By Potato |
17817 | 02/07/24 19:50:25 | PB7.0: 浮動小数点データについて By Nana |
カテゴリ:スクリプトの記述
日付:2002年07月25日 12:01 発信者:M.M
題名:RE(10):PB7.0: 浮動小数点データについて
Nanaさん、こんにちは。
>ご指摘ありがとうございます。これらの過去ログにつきましては質問をさせて頂く前に拝見させて頂きました。
>0.0・・1を加算後にtruncate私もこの手段をこれまで取って参りました。A:0.289999とB:0.289999において
>見た目はどちらも同じですが、実際はAは0.29でBは0.289999。こういう場合において全てに0.0・・1を加算後
>にtruncateという手段はあってはならない計算計算結果を招く事があります。数値取得後にその数値を加工する
>という事はさらに異なった数値に自らしている訳ですから、今回の私の要求している方法は異なっていると
>思われます。あくまでも、DB(SQL)の値を正確に取得するというのが私のPBに対する要求事項です。
PBに対する要求事項は、アシストにどうぞ。
私はPBの1ユーザであり、PB本体についての責任は一切とれませんので。
それから、今回の件の回避策で有効そうなのは、No.9970のコメントツリー
で紹介している方法ですね。
SQLの関数で数値→文字列への変換をしてしまえば、PBのdwの数値誤差
による影響は受けなくなります。データウィンドウは文字列のカラムで
表示を行います。
数値の計算は、Powerスクリプトのdecimal型の変数で計算をすれば、
私のPB3.x以降の経験上、ほぼ問題ありません。
ちなみに、ウン年前にこの問題でテクニカルサポートに問い合わせを
した時には、PB本体の開発に使用している言語のライブラリに問題発生
の根本原因があり、容易に修正できそうにないという話を聞いた記憶が
あります。
(Javaもそうだけど、アメリカ人は精度を要求する数値計算の必要性が低いのだろうか?)
TechWiredでもこの件については検索できますので、提供元の正式な回答
の内容を確認してください。
付加情報:
PowerBuilder Version (記載なし)
Client SoftWare
OS Windows 2000
DBMS Microsoft SQL Server Client 6.5
Browser (記載なし)
Server SoftWare
OS (記載なし)
DBMS Microsoft SQL Server 6.5
WebServer (記載なし)
Copyright © 2013 Power Future Co., Ltd.