首页 > 代码库 > 测试浮点数的问题

测试浮点数的问题

1、这里浮点数默认是double型,因为默认是double型,所以float型有损精确度,要想运行转换位     bouble,在数值后面加F

2、这里用科学计数法表示,其中e-2相当于2.7*10的-2次方,如果是e+2代表的就是2.7*10的+2次方

如下图是不加F的

技术分享

运行结果:

技术分享

加了F的运行结果如下图:

技术分享

技术分享

3、同样的数值,bouble和float是不一样的。显示不相等false如图:

技术分享

技术分享

测试浮点数的问题