PB 電子会議室
| 発言No. | 更新日 | 題名（クリックすると発言内容と関連するコメントが表示されます） |
|---|---|---|
| 7898 | 99/08/31 15:25:31 | PB6: 埋め込みSQLでのdouble型について By takahashi |
カテゴリ：PowerBuilderの不具合？
日付：1999年08月31日 15:25 発信者：takahashi
題名：PB6: 埋め込みSQLでのdouble型について
みなさんこんにちは。
ビルダーの埋め込みSQLでおかしな現象が発生しました。
Oracleのnumber型(桁数指定なし)に153.2という数値を入れておいて、
それをselect文でdouble型変数に取得してきます。
その後、(その変数)-153.2 という計算をかけると
0.00000000000002842170943040400000000という結果になります。
浮動小数点の近似値の問題でしょうけど、ちょっと問題ではないでしょうか。
使う前に丸めろっていわれればそれまでですけど。
付加情報：
PowerBuilder Version (記載なし)
Client SoftWare
OS Windows NT 4.0
DBMS Oracle SQL*Net 8
Browser Netscape4.X
Server SoftWare
OS (記載なし)
DBMS Oracle 8.0
WebServer (記載なし)
Copyright © 2013 Power Future Co., Ltd.