首页 > 代码库 > Inter IPP 跟 Microsoft V100编译器区别

Inter IPP 跟 Microsoft V100编译器区别

        最近做项目用了两个编译器,由于是一种精度的算法计算,对计算的精度要求非常高,同时都用的float型,发现inter的结果比vs的结果好许多。但是不知道是什么原因,最后测试发现,是两个编译器的问题。
       测试后发现:float型在v100编译器中,第6位是有效的,6位以后似乎是随机的,不是那么准确了,但是inter处理器中,float型也是按照double来计算的,所以最后结果好上许多。
       强烈mark一下,作为经验,以后做计算的时候可以记住这个BUG的存在。


来自为知笔记(Wiz)


Inter IPP 跟 Microsoft V100编译器区别