PB 電子会議室
発言No. | 更新日 | 題名(クリックすると発言内容と関連するコメントが表示されます) |
---|---|---|
17833 | 02/07/25 13:29:30 | RE(13):PB7.0: 浮動小数点データについて By Nana |
17832 | 02/07/25 13:22:16 | RE(12):PB7.0: 浮動小数点データについて By Nana |
17831 | 02/07/25 12:47:25 | RE(11):PB7.0: 浮動小数点データについて By あすかちゃんの父 |
17830 | 02/07/25 12:01:00 | RE(10):PB7.0: 浮動小数点データについて By M.M |
17829 | 02/07/25 10:59:13 | RE(9):PB7.0: 浮動小数点データについて By Nana |
17828 | 02/07/25 10:29:33 | RE(8):PB7.0: 浮動小数点データについて By M.M |
17827 | 02/07/25 10:15:27 | RE(7):PB7.0: 浮動小数点データについて By みく |
17826 | 02/07/25 09:25:26 | RE(6):PB7.0: 浮動小数点データについて By Nana |
17825 | 02/07/25 09:07:36 | RE(5):PB7.0: 浮動小数点データについて By みく |
17824 | 02/07/25 08:59:33 | RE(4):PB7.0: 浮動小数点データについて By Nana |
17823 | 02/07/25 08:36:15 | RE(3):PB7.0: 浮動小数点データについて By みく |
17821 | 02/07/25 08:01:10 | RE(2):PB7.0: 浮動小数点データについて By Nana |
17819 | 02/07/24 22:07:31 | RE(1):PB7.0: 浮動小数点データについて By Potato |
17817 | 02/07/24 19:50:25 | PB7.0: 浮動小数点データについて By Nana |
カテゴリ:スクリプトの記述
日付:2002年07月24日 22:07 発信者:Potato
題名:RE(1):PB7.0: 浮動小数点データについて
Nanaさん、こんばんは。
>いつもお世話になっております。
>本日は浮動小数点データの取り扱いについて質問いたします。
>
>DB(SQL)でのデータ型がmoneyの列Aに0.2900という数値があります。PBにて変数B(real,
dec,double
>型)にAをgetitemするとその値は0.289999999・・となってしまいます。これまではgetitem後に
0.00
>0001を加算して対処して参りましたが、いよいよこの手段も通用しない財務に着手する運びとなりまし
た。つきま
>しては、概数ではなくDBに格納されている値と全く同じ値を取得する手段をアドバイス頂きたく思います。
>何卒、宜しくお願い致します。
>
getitem って、getitemnumber を使っていませんか。
もしそうだったら、未テストですが、たぶん getitemdecimal で取り出すと、
そのままの値が取り出せると思います。
money 型がデータウィンドウで float になっていたら、上記方法では無理
かもしれませんが。
getitemnumber と getitemdecimal とは内部で扱う中間データ型が違います。
前者は double で 後者は decimal となるはずです。
付加情報:
PowerBuilder Version (記載なし)
Client SoftWare
OS Windows 2000
DBMS Microsoft SQL Server Client 6.5
Browser (記載なし)
Server SoftWare
OS (記載なし)
DBMS Microsoft SQL Server 6.5
WebServer (記載なし)
Copyright © 2013 Power Future Co., Ltd.