首页 > 代码库 > SQL反模式学习笔记10 取整错误

SQL反模式学习笔记10 取整错误

2014-10-13 16:44:28 

目标:使用小数取代整数

 

反模式:使用Float类型

          根据IEEE754标识,float类型使用二进制格式编码实数数据。

          缺点:(1)舍入的必要性: 并不是所有的十进制中描述的信息都能使用二进制存储,处于一些必要的因素,

                        浮点数通常是舍入到了一个非常接近的值。

                     举例:select rate from A where id=123   --Result:59.95

                             select * from A where rate=59.95 --Result:empty set;no rows match.

                             select * from A where ABS(rate-59.95)<0.000001   --这个才能正确查出数据!

                       (2)将浮点数视作“近似相等”

 

如何识别反模式:任何使用Float、Real或者Double Percent类型的设计都有可能是反模式

 

合理使用反模式:如果要存储的值取值范围很大,大于integer、numeric的范围,那只能用float了。科学计算类的程序通常使用float。

 

解决方案:使用numeric、decimal类型

                使用numeric、decimal代替float,他们不会对存储的有理数进行舍入,因此select * from A where rate=59.95会返回记录。

          注意:numeric、decimal在sqlserver乃至sybase中,是完全一样的。

 

结论:尽可能不要使用浮点数

SQL反模式学习笔记10 取整错误