PB 電子会議室

コメント

発言No. 更新日 題名(クリックすると発言内容と関連するコメントが表示されます)
17833 02/07/25 13:29:30 RE(13):PB7.0: 浮動小数点データについて By Nana
17832 02/07/25 13:22:16 RE(12):PB7.0: 浮動小数点データについて By Nana
17831 02/07/25 12:47:25 RE(11):PB7.0: 浮動小数点データについて By あすかちゃんの父
17830 02/07/25 12:01:00 RE(10):PB7.0: 浮動小数点データについて By M.M
17829 02/07/25 10:59:13 RE(9):PB7.0: 浮動小数点データについて By Nana
17828 02/07/25 10:29:33 RE(8):PB7.0: 浮動小数点データについて By M.M
17827 02/07/25 10:15:27 RE(7):PB7.0: 浮動小数点データについて By みく
17826 02/07/25 09:25:26 RE(6):PB7.0: 浮動小数点データについて By Nana
17825 02/07/25 09:07:36 RE(5):PB7.0: 浮動小数点データについて By みく
17824 02/07/25 08:59:33 RE(4):PB7.0: 浮動小数点データについて By Nana
17823 02/07/25 08:36:15 RE(3):PB7.0: 浮動小数点データについて By みく
17821 02/07/25 08:01:10 RE(2):PB7.0: 浮動小数点データについて By Nana
17819 02/07/24 22:07:31 RE(1):PB7.0: 浮動小数点データについて By Potato
17817 02/07/24 19:50:25 PB7.0: 浮動小数点データについて By Nana

カテゴリ:スクリプトの記述
日付:2002年07月25日 08:01 発信者:Nana
題名:RE(2):PB7.0: 浮動小数点データについて

Potatoさん、おはようございます。

>Nanaさん、こんばんは。

>>いつもお世話になっております。
>>本日は浮動小数点データの取り扱いについて質問いたします。
>>
>>DB(SQL)でのデータ型がmoneyの列Aに0.2900という数値があります。PBにて変数B(real,
>dec,double
>>型)にAをgetitemするとその値は0.289999999・・となってしまいます。これまではgetitem後に
>0.00
>>0001を加算して対処して参りましたが、いよいよこの手段も通用しない財務に着手する運びとなりまし
>た。つきま
>>しては、概数ではなくDBに格納されている値と全く同じ値を取得する手段をアドバイス頂きたく思います。
>>何卒、宜しくお願い致します。
>>

>getitem って、getitemnumber を使っていませんか。
>もしそうだったら、未テストですが、たぶん getitemdecimal で取り出すと、
>そのままの値が取り出せると思います。


>money 型がデータウィンドウで float になっていたら、上記方法では無理
>かもしれませんが。

>getitemnumber と getitemdecimal とは内部で扱う中間データ型が違います。
>前者は double で 後者は decimal となるはずです。


ありがとうございます。
まず、getitemについてですが、getitemnumber、getitemdecimal共に試行致しております。結果はどちらも概数。×
でした。どんな小さな誤差であってもDB上の数値と違ってはならない現状下で皆様方はどのように対処なさっておら
れるのでしょうか?
一点、「データウィンドウで float 」とはどういう意味なのでしょうか?


付加情報:

PowerBuilder Version (記載なし)

Client SoftWare

OS Windows 2000
DBMS Microsoft SQL Server Client 6.5
Browser (記載なし)

Server SoftWare

OS (記載なし)
DBMS Microsoft SQL Server 6.5
WebServer (記載なし)

PowerSpaceの運営は、パワーフューチャー株式会社が行っております。
Copyright © 2013 Power Future Co., Ltd.