首页 > 代码库 > Lua与C++ 一个精度误差问题

Lua与C++ 一个精度误差问题

近日和服务器同事处理一个游戏数据问题的时候,发现服务器Lua脚本的浮点数据在被服务器c++代码调用有可能出现误差。类似地,如果在客户端用lua的内置函数库去操作浮点数也会重现这样的取整误差情况,举个简单例子如下:

local k = 1+122/100;
local t = 250*k
print("t:",t)
print("math t:",math.floor(t))
print(string.format("string t:%d",t))

理想情况t、math t和string t都是555。

实际输出只有t是555,math t和string t都是554。

所以客户端和服务器在同样用一套计算公式去计算某个游戏数据时,由于客户端是纯脚本运算得到结果,服务器是将脚本运算的中间结果t在C++代码中继续处理,中间出现上述的精度误差问题,导致客户端和服务器的结果总是会有一些微小的数值偏差。

 

具体的精度误差原因如果有读者知道,欢迎科普一下博主。

 

Lua与C++ 一个精度误差问题