PB 電子会議室

コメント

発言No. 更新日 題名(クリックすると発言内容と関連するコメントが表示されます)
17833 02/07/25 13:29:30 RE(13):PB7.0: 浮動小数点データについて By Nana
17832 02/07/25 13:22:16 RE(12):PB7.0: 浮動小数点データについて By Nana
17831 02/07/25 12:47:25 RE(11):PB7.0: 浮動小数点データについて By あすかちゃんの父
17830 02/07/25 12:01:00 RE(10):PB7.0: 浮動小数点データについて By M.M
17829 02/07/25 10:59:13 RE(9):PB7.0: 浮動小数点データについて By Nana
17828 02/07/25 10:29:33 RE(8):PB7.0: 浮動小数点データについて By M.M
17827 02/07/25 10:15:27 RE(7):PB7.0: 浮動小数点データについて By みく
17826 02/07/25 09:25:26 RE(6):PB7.0: 浮動小数点データについて By Nana
17825 02/07/25 09:07:36 RE(5):PB7.0: 浮動小数点データについて By みく
17824 02/07/25 08:59:33 RE(4):PB7.0: 浮動小数点データについて By Nana
17823 02/07/25 08:36:15 RE(3):PB7.0: 浮動小数点データについて By みく
17821 02/07/25 08:01:10 RE(2):PB7.0: 浮動小数点データについて By Nana
17819 02/07/24 22:07:31 RE(1):PB7.0: 浮動小数点データについて By Potato
17817 02/07/24 19:50:25 PB7.0: 浮動小数点データについて By Nana

カテゴリ:スクリプトの記述
日付:2002年07月25日 10:59 発信者:Nana
題名:RE(9):PB7.0: 浮動小数点データについて

M.Mさん、こんにちは。

>Nanaさん、こんにちは。

>>上記方法において取得値はDBの値と同じものを取得していますでしょうか?
>>getitemで取得した場合、問題発生率は限りなく「0」です。しがし、「0」ではないのです。

>データウィンドウの「浮動小数点演算の数値誤差」の件ですね。
>これについて、詳しい情報が過去ログにありますので読んでください。

>No.3873と9970のコメントツリーです。
>DBがOracleの場合ですが、回避策についても情報があります。

ご指摘ありがとうございます。これらの過去ログにつきましては質問をさせて頂く前に拝見させて頂きました。0.0・・1
を加算後にtruncate私もこの手段をこれまで取って参りました。A:0.289999とB:0.289999において見た目はどちら
も同じですが、実際はAは0.29でBは0.289999。こういう場合において全てに0.0・・1を加算後にtruncateという手段
はあってはならない計算計算結果を招く事があります。数値取得後にその数値を加工するという事はさらに異なった数
値に自らしている訳ですから、今回の私の要求している方法は異なっていると思われます。あくまでも、DB(SQ
L)の値を正確に取得するというのが私のPBに対する要求事項です。

付加情報:

PowerBuilder Version (記載なし)

Client SoftWare

OS Windows 2000
DBMS Microsoft SQL Server Client 6.5
Browser (記載なし)

Server SoftWare

OS (記載なし)
DBMS Microsoft SQL Server 6.5
WebServer (記載なし)

PowerSpaceの運営は、パワーフューチャー株式会社が行っております。
Copyright © 2013 Power Future Co., Ltd.