PB 電子会議室

コメント

発言No. 更新日 題名(クリックすると発言内容と関連するコメントが表示されます)
20666 03/12/09 15:48:43 RE(1):PB7.0: 2の31乗ってオーバーフローですか? By みゆ
20665 03/12/09 15:33:05 PB7.0: 2の31乗ってオーバーフローですか? By みゆ

カテゴリ:スクリプトの記述
日付:2003年12月09日 15:48 発信者:みゆ
題名:RE(1):PB7.0: 2の31乗ってオーバーフローですか?

>こんにちは。
>スクリプトでdoubleの変数に、2の31乗を入れようとすると値が
>?2147483648となってしまいます。
>また、messageboxで、上記結果を表示させても同じです。
>duobleの精度なら問題ないと思うのですが・・・・
>一体何故なのでしょうか?

すいません。
どうやら、2^31としたために、long扱いになったようです。
解決しました。
お騒がせしました。。。

付加情報:

PowerBuilder Version (記載なし)

Client SoftWare

OS (記載なし)
DBMS (記載なし)
Browser (記載なし)

Server SoftWare

OS (記載なし)
DBMS (記載なし)
WebServer (記載なし)

PowerSpaceの運営は、パワーフューチャー株式会社が行っております。
Copyright © 2013 Power Future Co., Ltd.