PB 電子会議室

コメント

発言No. 更新日 題名(クリックすると発言内容と関連するコメントが表示されます)
17833 02/07/25 13:29:30 RE(13):PB7.0: 浮動小数点データについて By Nana
17832 02/07/25 13:22:16 RE(12):PB7.0: 浮動小数点データについて By Nana
17831 02/07/25 12:47:25 RE(11):PB7.0: 浮動小数点データについて By あすかちゃんの父
17830 02/07/25 12:01:00 RE(10):PB7.0: 浮動小数点データについて By M.M
17829 02/07/25 10:59:13 RE(9):PB7.0: 浮動小数点データについて By Nana
17828 02/07/25 10:29:33 RE(8):PB7.0: 浮動小数点データについて By M.M
17827 02/07/25 10:15:27 RE(7):PB7.0: 浮動小数点データについて By みく
17826 02/07/25 09:25:26 RE(6):PB7.0: 浮動小数点データについて By Nana
17825 02/07/25 09:07:36 RE(5):PB7.0: 浮動小数点データについて By みく
17824 02/07/25 08:59:33 RE(4):PB7.0: 浮動小数点データについて By Nana
17823 02/07/25 08:36:15 RE(3):PB7.0: 浮動小数点データについて By みく
17821 02/07/25 08:01:10 RE(2):PB7.0: 浮動小数点データについて By Nana
17819 02/07/24 22:07:31 RE(1):PB7.0: 浮動小数点データについて By Potato
17817 02/07/24 19:50:25 PB7.0: 浮動小数点データについて By Nana

カテゴリ:スクリプトの記述
日付:2002年07月25日 10:29 発信者:M.M
題名:RE(8):PB7.0: 浮動小数点データについて

Nanaさん、こんにちは。

>上記方法において取得値はDBの値と同じものを取得していますでしょうか?
>getitemで取得した場合、問題発生率は限りなく「0」です。しがし、「0」ではないのです。

データウィンドウの「浮動小数点演算の数値誤差」の件ですね。
これについて、詳しい情報が過去ログにありますので読んでください。

No.3873と9970のコメントツリーです。
DBがOracleの場合ですが、回避策についても情報があります。

付加情報:

PowerBuilder Version (記載なし)

Client SoftWare

OS Windows 2000
DBMS Microsoft SQL Server Client 6.5
Browser (記載なし)

Server SoftWare

OS (記載なし)
DBMS Microsoft SQL Server 6.5
WebServer (記載なし)

PowerSpaceの運営は、パワーフューチャー株式会社が行っております。
Copyright © 2013 Power Future Co., Ltd.