본문 바로가기

배움의미학/DB

[DB2] 황당한 소수점 계산

반응형

SELECT 10/3 FROM SYSIBM.DUAL;

결과 3

SELECT DOUBLE(10)/3 FROM SYSIBM.DUAL;

결과 3.33333333~

SELECT DOUBLE(10/3) FROM SYSIBM.DUAL;

결과 3

SELECT 1.0*10/3 FROM SYSIBM.DUAL;

결과 3.3333333~

SELECT 10*1.0/3 FROM SYSIBM.DUAL;

결과 3.3333333~

SELECT 10/3*1.0 FROM SYSIBM.DUAL;

결과 3

SELECT (10/3)*1.0 FROM SYSIBM.DUAL;

결과 3

SELECT CAST(10/3 AS DECIMAL(30,4)) FROM SYSIBM.DUAL;

결과 3




너무 예민하고 자기만의 규칙이 있는 DB2
이렇게 따질게 많아서야...... 어떻게 쓰나.....
제일 처음 오는 변수가 소수점이 있는 데이터인경우
소수점까지 정확히 계산된다. 혹시 ADMIN 옵션이려나?




반응형