PB 電子会議室
発言No. | 更新日 | 題名(クリックすると発言内容と関連するコメントが表示されます) |
---|---|---|
5269 | 99/02/26 21:04:17 | RE(4):切り上げ誤差の件、対処方法がわかりました(たぶん) By M.M |
5259 | 99/02/26 18:19:04 | RE(3):PB5.0.03: 少数部を切り上げしたいのですが... By M.M |
5245 | 99/02/26 10:08:51 | RE(2):PB5.0.03: 少数部を切り上げしたいのですが... By n.mibu |
5241 | 99/02/25 23:04:12 | RE(1):PB5.0.03: 少数部を切り上げしたいのですが... By M.M |
5239 | 99/02/25 20:28:30 | PB5.0.03: 少数部を切り上げしたいのですが... By n.mibu |
カテゴリ:PowerBuilderの不具合?
日付:1999年02月25日 20:28 発信者:n.mibu
題名:PB5.0.03: 少数部を切り上げしたいのですが...
以前に発言されていたらスイマセン。
一応、「切り上げ」と「Ceiling」の2つで検索をしたんですが、該当しなかったので質問させて頂きます。
題名にもありますように、数値の少数部について「切り上げ」を行いたいのですが、不正に切上げられてしまいます。
具体的には、Number型の2項目 \'suryo\' と \'tanka\' を使用してDWの計算カラムに \'Ceiling(suryo * tanka)\'
と記述しているのですが、
例1)suryo = 5.0 tanka = 3 のときは \'15\' を返します。(正常)
例2)suryo = 5.5 tanka = 4 のときに \'23\' を返すときがある(正しくは \'22\')
当方の見解として、例2)のときに、一旦、小数部の計算が行われる為、Number型の数値が内部的に \'22.000000・・・\'
と保持されていて、少数部の\'000・・・\' が不正な切り上げの原因ではないかと思っているのですが...
ただし、混乱させて申し訳ないのですが、実際に当方で起っている内容は、
例3)suryo = 1.2 tanka = 420 のときは \'504\' を返します。(正常)
例4)suryo = 1.1 tanka = 420 のときに \'463\' を返します。(正しくは \'462\')
です。こうなるとさっぱり原因がわかりません。何か情報がございましたらどうかよろしくお願いします。
付加情報:
PowerBuilder Version (記載なし)
Client SoftWare
OS Windows95
DBMS Oracle SQL*Net 2.3
Browser (記載なし)
Server SoftWare
OS (記載なし)
DBMS Oracle 7.3
WebServer (記載なし)
Copyright © 2013 Power Future Co., Ltd.