首页 > 代码库 > SQL反模式学习笔记10 取整错误
SQL反模式学习笔记10 取整错误
2014-10-13 16:44:28
目标:使用小数取代整数
反模式:使用Float类型
根据IEEE754标识,float类型使用二进制格式编码实数数据。
缺点:(1)舍入的必要性: 并不是所有的十进制中描述的信息都能使用二进制存储,处于一些必要的因素,
浮点数通常是舍入到了一个非常接近的值。
举例:select rate from A where id=123 --Result:59.95
select * from A where rate=59.95 --Result:empty set;no rows match.
select * from A where ABS(rate-59.95)<0.000001 --这个才能正确查出数据!
(2)将浮点数视作“近似相等”
如何识别反模式:任何使用Float、Real或者Double Percent类型的设计都有可能是反模式
合理使用反模式:如果要存储的值取值范围很大,大于integer、numeric的范围,那只能用float了。科学计算类的程序通常使用float。
解决方案:使用numeric、decimal类型
使用numeric、decimal代替float,他们不会对存储的有理数进行舍入,因此select * from A where rate=59.95会返回记录。
注意:numeric、decimal在sqlserver乃至sybase中,是完全一样的。
结论:尽可能不要使用浮点数
SQL反模式学习笔记10 取整错误