PB 電子会議室
| 発言No. | 更新日 | 題名（クリックすると発言内容と関連するコメントが表示されます） |
|---|---|---|
| 5126 | 99/02/18 02:05:30 | RE(1):突然、減算の結果で奇妙な数値が返ってきたのですが？ By M.M |
| 5122 | 99/02/17 20:28:12 | PB5.0.02: 突然、減算の結果で奇妙な数値が返ってきたのですが？ By HighwaySTAR |
カテゴリ：スクリプトの記述
日付：1999年02月17日 20:28 発信者：HighwaySTAR
題名：PB5.0.02: 突然、減算の結果で奇妙な数値が返ってきたのですが？
皆さんこんにちは(^^ゞ
久々にPB5.0の修正がきてテストをしたら変な結果が返ってきました。
double ldb_a,ldb_b,ldb_c
ldb_a = 3652.2 //データウィンドウの項目Ａ（number型）
ldb_b = 3652.2 //データウィンドウの項目Ｂ（number型）
ldb_c = ldb_a - ldb_b
ldb_c に返ってきた値は「-4.547473508864641E-13」です。
なんで「０」が返ってこないのでしょうか(T.T)
以前にもこんな現象があったような気もするのですが思い出せません。
どなたか分かる方いらっしゃいませんか。
付加情報：
PowerBuilder Version (記載なし)
Client SoftWare
OS Windows NT 4.0
DBMS Oracle SQL*Net 2.2
Browser (記載なし)
Server SoftWare
OS (記載なし)
DBMS Oracle 7.2
WebServer (記載なし)
Copyright © 2013 Power Future Co., Ltd.