PB 電子会議室

コメント

発言No. 更新日 題名(クリックすると発言内容と関連するコメントが表示されます)
10001 00/01/24 17:18:56 RE(4):PB5.0.02: decimalで定義した変数へ格納した数値で誤差が発生します。 By shino0929
9994 00/01/24 12:45:11 RE(3):PB5.0.02: decimalで定義した変数へ格納した数値で誤差が発生します。 By M.M
9986 00/01/24 09:21:39 RE(2):PB5.0.02: decimalで定義した変数へ格納した数値で誤差が発生します。 By shino0929
9983 00/01/22 18:26:47 RE(1):PB5.0.02: decimalで定義した変数へ格納した数値で誤差が発生します。 By M.M
9970 00/01/21 16:23:55 PB5.0.02: decimalで定義した変数へ格納した数値で誤差が発生します。 By shino0929

カテゴリ:PowerBuilderの不具合?
日付:2000年01月21日 16:23 発信者:shino0929
題名:PB5.0.02: decimalで定義した変数へ格納した数値で誤差が発生します。

私、PB5.0.02で開発をやっております。

DWからGetItemした11桁の数値、それも先頭が9等の大きい数値の場合に発生するようですが、
その数値をdecimal型で定義した変数へ格納すると、その変数の少数部に誤差が生じるようで
す。

このバグらしき現象について情報をお持ちの方がいらっしゃったら、どのような情報でも結構
ですので教えてください。(特に、そのような場合にそのような現象が発生するのか)

過去の発言をいろいろ検索したのですが、見つかりませんでしたのでよろしくお願い致します。


付加情報:

PowerBuilder Version (記載なし)

Client SoftWare

OS Windows98
DBMS (記載なし)
Browser (記載なし)

Server SoftWare

OS (記載なし)
DBMS Oracle 7.3
WebServer (記載なし)

PowerSpaceの運営は、パワーフューチャー株式会社が行っております。
Copyright © 2013 Power Future Co., Ltd.