PB 電子会議室
発言No. | 更新日 | 題名(クリックすると発言内容と関連するコメントが表示されます) |
---|---|---|
20666 | 03/12/09 15:48:43 | RE(1):PB7.0: 2の31乗ってオーバーフローですか? By みゆ |
20665 | 03/12/09 15:33:05 | PB7.0: 2の31乗ってオーバーフローですか? By みゆ |
カテゴリ:スクリプトの記述
日付:2003年12月09日 15:33 発信者:みゆ
題名:PB7.0: 2の31乗ってオーバーフローですか?
こんにちは。
スクリプトでdoubleの変数に、2の31乗を入れようとすると値が
?2147483648となってしまいます。
また、messageboxで、上記結果を表示させても同じです。
duobleの精度なら問題ないと思うのですが・・・・
一体何故なのでしょうか?
付加情報:
PowerBuilder Version (記載なし)
Client SoftWare
OS (記載なし)
DBMS (記載なし)
Browser (記載なし)
Server SoftWare
OS (記載なし)
DBMS (記載なし)
WebServer (記載なし)
Copyright © 2013 Power Future Co., Ltd.