PB 電子会議室
| 発言No. | 更新日 | 題名（クリックすると発言内容と関連するコメントが表示されます） |
|---|---|---|
| 22134 | 05/08/25 16:24:28 | Decimal(18,0)のカラムをSUM()したいのですが… By hate-na |
カテゴリ：データウィンドウ
日付：2005年08月25日 16:24 発信者：hate-na
題名：Decimal(18,0)のカラムをSUM()したいのですが…
グループトレーラで計算フィールドを使って
Decimal(18,0)のカラム…KAKAKUをSum(KAKAKU For Group 1)としています。
データが1件しかないとき、KAKAKU = Sum(KAKAKU For Group 1)となるはずですが、
KAKAKUが16桁を超えると、KAKAKU = Sum(KAKAKU For Group 1)となりません。
四捨五入されているわけでもなさそうですし…
16桁の例ですと、偶数に切れ上げられているものと切り捨てられているものが
あるようです。
15桁までしか、正しく計算されないのでしょうか？
［15桁］
KAKAKU Sum(KAKAKU For Group 1)
999999999999999 999999999999999 … ○
［16桁］
KAKAKU Sum(KAKAKU For Group 1)
9999999999999990 9999999999999990 … ○
9999999999999991 9999999999999992 … ×
9999999999999992 9999999999999992 … ○
9999999999999993 9999999999999992 … ×
9999999999999994 9999999999999994 … ○
9999999999999995 9999999999999996 … ×
9999999999999996 9999999999999996 … ○
9999999999999997 9999999999999996 … ×
9999999999999998 9999999999999998 … ○
9999999999999999 10000000000000000 … ×
［17桁］
KAKAKU Sum(KAKAKU For Group 1)
99999999999999990 99999999999999980 … ×
99999999999999991 99999999999999980 … ×
99999999999999992
?99999999999999999 100000000000000000 … ×
［18桁］
KAKAKU Sum(KAKAKU For Group 1)
999999999999999990
?999999999999999999 1000000000000000000 … ×
付加情報：
PowerBuilder Version (記載なし)
Client SoftWare
OS (記載なし)
DBMS (記載なし)
Browser (記載なし)
Server SoftWare
OS (記載なし)
DBMS (記載なし)
WebServer (記載なし)
Copyright © 2013 Power Future Co., Ltd.