PB 電子会議室
発言No. | 更新日 | 題名(クリックすると発言内容と関連するコメントが表示されます) |
---|---|---|
8837 | 99/10/20 13:21:43 | RE(2):ありがとうございました By kami |
8835 | 99/10/20 12:30:01 | RE(1):PB6: 小数部の計算 By M.M |
8827 | 99/10/19 23:32:31 | PB6: 小数部の計算 By kami |
カテゴリ:スクリプトの記述
日付:1999年10月19日 23:32 発信者:kami
題名:PB6: 小数部の計算
DWに入力された値(小数点以下2桁を含む)を加算し、100倍する処理を行おうと思っていますが
デバックでは正しい値を求めることが出来るのですが、実行ファイルを作成すると
100倍した値に切り上がってしまいます。
例)
カラム1の値:98.90
カラム2の値:98.70
98.90 + 98.70 = 197.6
197.6 * 100 = 19760 (正しい値デバッグではこの値が表示される)
実行ファイルを作成し実行すると19800の値が表示されてしまいます。
コーディングは以下の様に記述しています。
Decimal {2} ldec_a
Long ll_sum
ldec_a = 0
ldec_a = ldec_a + dw_1.GetItemDecimal(1,\"a\") + dw_1.GetItemDecimal(1,\"b\")
ll_sum = ldec_a * 100
どなたかご存知の方がいらっしゃいましたらご教授下さい。
よろしくお願い致します。
付加情報:
PowerBuilder Version (記載なし)
Client SoftWare
OS Windows NT 4.0
DBMS Oracle SQL*Net 2.2
Browser (記載なし)
Server SoftWare
OS (記載なし)
DBMS Oracle 7.3
WebServer (記載なし)
Copyright © 2013 Power Future Co., Ltd.