PB 電子会議室
発言No. | 更新日 | 題名(クリックすると発言内容と関連するコメントが表示されます) |
---|---|---|
17833 | 02/07/25 13:29:30 | RE(13):PB7.0: 浮動小数点データについて By Nana |
17832 | 02/07/25 13:22:16 | RE(12):PB7.0: 浮動小数点データについて By Nana |
17831 | 02/07/25 12:47:25 | RE(11):PB7.0: 浮動小数点データについて By あすかちゃんの父 |
17830 | 02/07/25 12:01:00 | RE(10):PB7.0: 浮動小数点データについて By M.M |
17829 | 02/07/25 10:59:13 | RE(9):PB7.0: 浮動小数点データについて By Nana |
17828 | 02/07/25 10:29:33 | RE(8):PB7.0: 浮動小数点データについて By M.M |
17827 | 02/07/25 10:15:27 | RE(7):PB7.0: 浮動小数点データについて By みく |
17826 | 02/07/25 09:25:26 | RE(6):PB7.0: 浮動小数点データについて By Nana |
17825 | 02/07/25 09:07:36 | RE(5):PB7.0: 浮動小数点データについて By みく |
17824 | 02/07/25 08:59:33 | RE(4):PB7.0: 浮動小数点データについて By Nana |
17823 | 02/07/25 08:36:15 | RE(3):PB7.0: 浮動小数点データについて By みく |
17821 | 02/07/25 08:01:10 | RE(2):PB7.0: 浮動小数点データについて By Nana |
17819 | 02/07/24 22:07:31 | RE(1):PB7.0: 浮動小数点データについて By Potato |
17817 | 02/07/24 19:50:25 | PB7.0: 浮動小数点データについて By Nana |
カテゴリ:スクリプトの記述
日付:2002年07月25日 10:59 発信者:Nana
題名:RE(9):PB7.0: 浮動小数点データについて
M.Mさん、こんにちは。
>Nanaさん、こんにちは。
>
>>上記方法において取得値はDBの値と同じものを取得していますでしょうか?
>>getitemで取得した場合、問題発生率は限りなく「0」です。しがし、「0」ではないのです。
>
>データウィンドウの「浮動小数点演算の数値誤差」の件ですね。
>これについて、詳しい情報が過去ログにありますので読んでください。
>
>No.3873と9970のコメントツリーです。
>DBがOracleの場合ですが、回避策についても情報があります。
>
ご指摘ありがとうございます。これらの過去ログにつきましては質問をさせて頂く前に拝見させて頂きました。0.0・・1
を加算後にtruncate私もこの手段をこれまで取って参りました。A:0.289999とB:0.289999において見た目はどちら
も同じですが、実際はAは0.29でBは0.289999。こういう場合において全てに0.0・・1を加算後にtruncateという手段
はあってはならない計算計算結果を招く事があります。数値取得後にその数値を加工するという事はさらに異なった数
値に自らしている訳ですから、今回の私の要求している方法は異なっていると思われます。あくまでも、DB(SQ
L)の値を正確に取得するというのが私のPBに対する要求事項です。
付加情報:
PowerBuilder Version (記載なし)
Client SoftWare
OS Windows 2000
DBMS Microsoft SQL Server Client 6.5
Browser (記載なし)
Server SoftWare
OS (記載なし)
DBMS Microsoft SQL Server 6.5
WebServer (記載なし)
Copyright © 2013 Power Future Co., Ltd.