PB 電子会議室
発言No. | 更新日 | 題名(クリックすると発言内容と関連するコメントが表示されます) |
---|---|---|
20666 | 03/12/09 15:48:43 | RE(1):PB7.0: 2の31乗ってオーバーフローですか? By みゆ |
20665 | 03/12/09 15:33:05 | PB7.0: 2の31乗ってオーバーフローですか? By みゆ |
カテゴリ:スクリプトの記述
日付:2003年12月09日 15:48 発信者:みゆ
題名:RE(1):PB7.0: 2の31乗ってオーバーフローですか?
>こんにちは。
>スクリプトでdoubleの変数に、2の31乗を入れようとすると値が
>?2147483648となってしまいます。
>また、messageboxで、上記結果を表示させても同じです。
>duobleの精度なら問題ないと思うのですが・・・・
>一体何故なのでしょうか?
>
すいません。
どうやら、2^31としたために、long扱いになったようです。
解決しました。
お騒がせしました。。。
付加情報:
PowerBuilder Version (記載なし)
Client SoftWare
OS (記載なし)
DBMS (記載なし)
Browser (記載なし)
Server SoftWare
OS (記載なし)
DBMS (記載なし)
WebServer (記載なし)
Copyright © 2013 Power Future Co., Ltd.