首页 > 代码库 > 关于c中 int, float, double转换中存在的精度损失问题

关于c中 int, float, double转换中存在的精度损失问题

2024-07-05 08:19:15   226人阅读

先看一段代码实验：

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
#include<limits>
#include<iostream>
 
using namespace std;
 
int main()
{
    unsigned int i = numeric_limits<unsigned int >::max();
    float f = i;
    unsigned int j = (unsigned int )f;
    bool flag 1 = i==j;
    cout<<"i = "<<endl;
    cout<<"j = "<<endl;
    cout<<"flag1 = " <<flag1<<endl;
 
    
 <span style="color: rgb(255, 0, 0);"> <strong> double d = 0.6L; // change this value  to 0.5L, you will see different result
</strong></span>   float e = (float)d;
   double d2 = e;
   bool flag2 = d==d2;
  cout<<"d2: "<<d2<<endl;
  cout<<"d: "<<d<<endl;
  cout<<"flag2: "<<flag2<<endl;
 
}

 从这个例子中可以看出flag1和flag2均为flase,且虽然d2和d在输出的时候虽然看上去一致，但实际并不相等；而i与j的实际值就已经查了很远。具体原因参见参考文献[1]。

深层原理分析还需进一步学习中。 。。。。待补充。

 

Reference

[1]int, float, double之间不得不说的故事, http://www.cnblogs.com/wodehuajianrui/archive/2009/03/18/1415173.html


联系
我们