首页 > 代码库 > DBL_EPSILON和 FLT_EPSILON的用法
DBL_EPSILON和 FLT_EPSILON的用法
DBL_EPSILON和 FLT_EPSILON主要用于单精度和双精度的比较当中：
double a = 0.5; if (a == 0.5) { //正确 x++; } double b = sin(M_PI / 6.0); if (b == 0.5) { //错误 x++; }
第一个比较正确，第二个可能正确也可能错误，b==0.5的结果取决于处理器、编译器的版本和设置。比如 Visual C++ 2010 编译器编译后运行b的值为0.49999999999999994
一种正确的比较方法应该是这样的：
double b = sin(M_PI / 6.0); if (fabs(b - 0.5) < DBL_EPSILON) { x++; }
以上的例子可以看出，EPSILON是最小误差。 是EPSILON+X不等于X的最小的正数。
声明：以上内容来自用户投稿及互联网公开渠道收集整理发布，本网站不拥有所有权，未作人工编辑处理，也不承担相关法律责任，若内容有误或涉及侵权可进行投诉： 投诉/举报 工作人员会在5个工作日内联系你，一经查实，本站将立刻删除涉嫌侵权内容。