首页 > 代码库 > 浮点型数据运算精度bug
浮点型数据运算精度bug
/** * 校验是否为数字 * @param arg * @return */ function checkIsNumber(arg){ if(arg != null && arg.toString() != ""){ var re = /^-?(0|[1-9]+\d*|[1-9]+\d*\.\d+|0\.\d+)$/; if(re.test(arg.toString())){ return true; } } return false; } /** * 加法函数,用来得到精确的加法结果 * 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 * 返回值注意:arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串 * @param arg1 * @param arg2 * @return */ function accAdd(arg1,arg2){ if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){ return null; } var r1,r2,m; try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;} try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;} m=Math.pow(10,Math.max(r1,r2)); return (arg1*m+arg2*m)/m; } // 给Number类型增加一个add方法,调用起来更加方便。 Number.prototype.add = function (arg){ return accAdd(this,arg); } /** * 减法函数,用来得到精确的减法结果 * 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。 * 返回值:arg1-arg2的值,arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串 * @param arg1 * @param arg2 * @return */ function accSub(arg1,arg2){ if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){ return null; } var r1,r2,m,n; try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;} try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;} m=Math.pow(10,Math.max(r1,r2)); // n=(r1>=r2)?r1:r2; // 控制精度 // return ((arg1*m-arg2*m)/m).toFixed(n); return (arg1*m-arg2*m)/m; } // 给Number类型增加一个subduct方法,调用起来更加方便。 Number.prototype.subduct = function (arg){ return accSub(this,arg); } /** * 除法函数,用来得到精确的除法结果 * 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 * 返回值:arg1除以arg2的精确结果 * @param arg1 * @param arg2 * @return */ function accDiv(arg1,arg2){ if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){ return null; } var t1,t2,r1,r2; try{t1=arg1.toString().split(".")[1].length;}catch(e){t1=0;} try{t2=arg2.toString().split(".")[1].length;}catch(e){t2=0;} with(Math){ r1=Number(arg1.toString().replace(".","")); r2=Number(arg2.toString().replace(".","")); return (r1/r2)*pow(10,t2-t1); } } // 给Number类型增加一个div方法,调用起来更加方便。 Number.prototype.div = function (arg){ return accDiv(this,arg); } /** * 乘法函数,用来得到精确的乘法结果 * 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 * 返回值:arg1乘以arg2的精确结果 * @param arg1 * @param arg2 * @return */ function accMul(arg1,arg2) { if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){ return null; } var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length;}catch(e){} try{m+=s2.split(".")[1].length;}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m); } // 给Number类型增加一个mul方法,调用起来更加方便。 Number.prototype.mul = function (arg){ return accMul(this,arg); } console.log(accAdd(0.3,0.2)+" "+accSub(0.3,0.2))
浮点型数据运算精度bug
声明:以上内容来自用户投稿及互联网公开渠道收集整理发布,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任,若内容有误或涉及侵权可进行投诉: 投诉/举报 工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。