首页 > 代码库 > 警惕C++中整数除法计算的精度损失

警惕C++中整数除法计算的精度损失

很偶然发现了一个精度损失的问题,简单来说:

有表达式: l = i/30 + j/40 + k/25, 求当{i,j,k} = {50,85,27}时l的值,很简单,用计算器马上可以算出答案为4.8717,但是编写了以下程序来实现:

int i = 50,j = 85, k = 27;

double l = i/30 + j/40 + k/25;

运行后,结果显示4.000000000!

 

     为什么?这是因为在C++中两个整数相处得到的结果还是整数,故除法都被四舍五入了再相加,就得到结果4.00000了。也许你会说,这种小儿科的问题我不会犯,当然情况是这样的时候很容易看出来,也比较容易避免,可是当i,j,k都是类的三个整数类型成员的时候,经常容易忘了他们是整数类型的,而写出上述表达式。所以,在写程序时,上述类型的式子要统一写成:

int i = 50,j = 85, k = 27;

double l = i/30.0 + j/40.0 + k/25.0;

     这样就不会出错了。

     呵呵,这是早就应该知道的问题了,到现在才发现,不过也为时不晚,fighting~ O(∩_∩)O~