Programming/언어론
double의 정확도 자릿수
구차니
2011. 3. 25. 21:40
IEEE 754 floating point 표준에 보면은,
float형은 7자리까지는 그 정밀도를 보장할 수 있고, 그 이후로는 부정확하다고 되어 있다.
그리고, double형은 15자리까지 정밀도를 보장할 수 있다고 한다.
[링크 : http://kimstar.pe.kr/blog/172]
[링크 : http://en.wikipedia.org/wiki/Double_precision_floating-point_format]
float형은 7자리까지는 그 정밀도를 보장할 수 있고, 그 이후로는 부정확하다고 되어 있다.
그리고, double형은 15자리까지 정밀도를 보장할 수 있다고 한다.
[링크 : http://kimstar.pe.kr/blog/172]
[링크 : http://en.wikipedia.org/wiki/Double_precision_floating-point_format]