首页 > 代码库 > 警惕C++中整数除法计算的精度损失
警惕C++中整数除法计算的精度损失
很偶然发现了一个精度损失的问题,简单来说:
有表达式: l = i/30 + j/40 + k/25, 求当{i,j,k} = {50,85,27}时l的值,很简单,用计算器马上可以算出答案为4.8717,但是编写了以下程序来实现:
int i = 50,j = 85, k = 27;
double l = i/30 + j/40 + k/25;
运行后,结果显示4.000000000!
int i = 50,j = 85, k = 27;
double l = i/30.0 + j/40.0 + k/25.0;
声明:以上内容来自用户投稿及互联网公开渠道收集整理发布,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任,若内容有误或涉及侵权可进行投诉: 投诉/举报 工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。