PB 電子会議室
発言No. | 更新日 | 題名(クリックすると発言内容と関連するコメントが表示されます) |
---|---|---|
1834 | 98/06/12 17:46:18 | RE:RE:RE:RE:ちょっと試してみましたが... By gretzky |
1828 | 98/06/12 13:22:46 | RE:RE:RE:ちょっと試してみましたが... By gretzky |
1824 | 98/06/12 11:39:32 | RE:RE:ちょっと試してみましたが... By gretzky |
1819 | 98/06/12 11:09:32 | RE:ちょっと試してみましたが... By gretzky |
1818 | 98/06/12 10:42:08 | ちょっと試してみましたが... By M.M |
1812 | 98/06/11 20:25:24 | RE:RE:PB5: データウィンドウとORACLE By gretzky |
1811 | 98/06/11 19:48:29 | RE:PB5: データウィンドウとORACLE By まこと |
1804 | 98/06/11 18:19:51 | PB5: データウィンドウとORACLE By gretzky |
カテゴリ:旧電子会議室
日付:1998年06月12日 11:39 発信者:gretzky
題名:RE:RE:ちょっと試してみましたが...
>>CREATE TABLE SCOTT.\"NUMBER_TEST\"
>> (\"CODE\" NUMBER(4,0) NOT NULL,
>> \"DATA\" NUMBER(20,16)) ;
>>
>>ALTER TABLE SCOTT.\"NUMBER_TEST\" ADD ( CONSTRAINT key_number_test PRIMARY KEY (\"CODE\"));
>>
>>上記のテーブルをOracleサーバ7.3で作成し、データウィンドウも作ってみましたが、
>>\'0.009432424\'を書き込んでから再度DWに表示して見ましたが、特に数値誤差は発生しませんでした。
>>ひょっとして、DW上で何か計算しているのですか?
>>
>
>リプライありがとうございます。
>DATAの型はNUMBER(20,16)ではなく、NUMBERです。(桁数指定なし)
>で、現状でつかめている事象としては誤差は小数点以下16桁目に\'2\'という形で現れるということです。
自己レスです。
どうも原因は精度の問題のようです。
DWは有効桁数16桁、DBはそれ以上としているのでDB→DWで誤差が発生しているようです。
もしそうだとしたら回避する方法はあるのでしょうか。(DBを変更しないという前提で)
付加情報:
PowerBuilder Version (記載なし)
Client SoftWare
OS (記載なし)
DBMS (記載なし)
Browser (記載なし)
Server SoftWare
OS (記載なし)
DBMS Oracle 7.3
WebServer (記載なし)
Copyright © 2013 Power Future Co., Ltd.