PB 電子会議室

コメント

発言No. 更新日 題名(クリックすると発言内容と関連するコメントが表示されます)
8837 99/10/20 13:21:43 RE(2):ありがとうございました By kami
8835 99/10/20 12:30:01 RE(1):PB6: 小数部の計算 By M.M
8827 99/10/19 23:32:31 PB6: 小数部の計算 By kami

カテゴリ:スクリプトの記述
日付:1999年10月19日 23:32 発信者:kami
題名:PB6: 小数部の計算

DWに入力された値(小数点以下2桁を含む)を加算し、100倍する処理を行おうと思っていますが
デバックでは正しい値を求めることが出来るのですが、実行ファイルを作成すると
100倍した値に切り上がってしまいます。
例)

カラム1の値:98.90
カラム2の値:98.70

98.90 + 98.70 = 197.6
197.6 * 100 = 19760    (正しい値デバッグではこの値が表示される)

実行ファイルを作成し実行すると19800の値が表示されてしまいます。

コーディングは以下の様に記述しています。

Decimal {2} ldec_a
Long ll_sum
ldec_a = 0
ldec_a = ldec_a + dw_1.GetItemDecimal(1,\"a\") + dw_1.GetItemDecimal(1,\"b\")
ll_sum = ldec_a * 100

どなたかご存知の方がいらっしゃいましたらご教授下さい。
よろしくお願い致します。


付加情報:

PowerBuilder Version (記載なし)

Client SoftWare

OS Windows NT 4.0
DBMS Oracle SQL*Net 2.2
Browser (記載なし)

Server SoftWare

OS (記載なし)
DBMS Oracle 7.3
WebServer (記載なし)

PowerSpaceの運営は、パワーフューチャー株式会社が行っております。
Copyright © 2013 Power Future Co., Ltd.