PB 電子会議室
発言No. | 更新日 | 題名(クリックすると発言内容と関連するコメントが表示されます) |
---|---|---|
10001 | 00/01/24 17:18:56 | RE(4):PB5.0.02: decimalで定義した変数へ格納した数値で誤差が発生します。 By shino0929 |
9994 | 00/01/24 12:45:11 | RE(3):PB5.0.02: decimalで定義した変数へ格納した数値で誤差が発生します。 By M.M |
9986 | 00/01/24 09:21:39 | RE(2):PB5.0.02: decimalで定義した変数へ格納した数値で誤差が発生します。 By shino0929 |
9983 | 00/01/22 18:26:47 | RE(1):PB5.0.02: decimalで定義した変数へ格納した数値で誤差が発生します。 By M.M |
9970 | 00/01/21 16:23:55 | PB5.0.02: decimalで定義した変数へ格納した数値で誤差が発生します。 By shino0929 |
カテゴリ:PowerBuilderの不具合?
日付:2000年01月22日 18:26 発信者:M.M
題名:RE(1):PB5.0.02: decimalで定義した変数へ格納した数値で誤差が発生します。
shino0929さん、こんばんは。
>DWからGetItemした11桁の数値、それも先頭が9等の大きい数値の場合に発生するようですが、
>その数値をdecimal型で定義した変数へ格納すると、その変数の少数部に誤差が生じるようで
>す。
>
>このバグらしき現象について情報をお持ちの方がいらっしゃったら、どのような情報でも結構
>ですので教えてください。(特に、そのような場合にそのような現象が発生するのか)
データウィンドウでの\"浮動小数点演算の数値誤差\"の件ですね。
No.003873のコメントツリーに、原因についての詳細な情報があります。
それで対策なんですが、状況によって対策方法が違いますので、shinoさんが
どういう処理をしているかがわからないと何とも言えません。
具体的にどういう問題が出ているか教えてもらえますか。
付加情報:
PowerBuilder Version (記載なし)
Client SoftWare
OS Windows98
DBMS (記載なし)
Browser (記載なし)
Server SoftWare
OS (記載なし)
DBMS Oracle 7.3
WebServer (記載なし)
Copyright © 2013 Power Future Co., Ltd.