PB 電子会議室
発言No. | 更新日 | 題名(クリックすると発言内容と関連するコメントが表示されます) |
---|---|---|
17833 | 02/07/25 13:29:30 | RE(13):PB7.0: 浮動小数点データについて By Nana |
17832 | 02/07/25 13:22:16 | RE(12):PB7.0: 浮動小数点データについて By Nana |
17831 | 02/07/25 12:47:25 | RE(11):PB7.0: 浮動小数点データについて By あすかちゃんの父 |
17830 | 02/07/25 12:01:00 | RE(10):PB7.0: 浮動小数点データについて By M.M |
17829 | 02/07/25 10:59:13 | RE(9):PB7.0: 浮動小数点データについて By Nana |
17828 | 02/07/25 10:29:33 | RE(8):PB7.0: 浮動小数点データについて By M.M |
17827 | 02/07/25 10:15:27 | RE(7):PB7.0: 浮動小数点データについて By みく |
17826 | 02/07/25 09:25:26 | RE(6):PB7.0: 浮動小数点データについて By Nana |
17825 | 02/07/25 09:07:36 | RE(5):PB7.0: 浮動小数点データについて By みく |
17824 | 02/07/25 08:59:33 | RE(4):PB7.0: 浮動小数点データについて By Nana |
17823 | 02/07/25 08:36:15 | RE(3):PB7.0: 浮動小数点データについて By みく |
17821 | 02/07/25 08:01:10 | RE(2):PB7.0: 浮動小数点データについて By Nana |
17819 | 02/07/24 22:07:31 | RE(1):PB7.0: 浮動小数点データについて By Potato |
17817 | 02/07/24 19:50:25 | PB7.0: 浮動小数点データについて By Nana |
カテゴリ:スクリプトの記述
日付:2002年07月24日 19:50 発信者:Nana
題名:PB7.0: 浮動小数点データについて
いつもお世話になっております。
本日は浮動小数点データの取り扱いについて質問いたします。
DB(SQL)でのデータ型がmoneyの列Aに0.2900という数値があります。PBにて変数B(real,dec,double
型)にAをgetitemするとその値は0.289999999・・となってしまいます。これまではgetitem後に0.00
0001を加算して対処して参りましたが、いよいよこの手段も通用しない財務に着手する運びとなりました。つきま
しては、概数ではなくDBに格納されている値と全く同じ値を取得する手段をアドバイス頂きたく思います。
何卒、宜しくお願い致します。
付加情報:
PowerBuilder Version (記載なし)
Client SoftWare
OS Windows 2000
DBMS Microsoft SQL Server Client 6.5
Browser (記載なし)
Server SoftWare
OS (記載なし)
DBMS Microsoft SQL Server 6.5
WebServer (記載なし)
Copyright © 2013 Power Future Co., Ltd.