首页 > Web开发 > 详细

js中float型相乘出现问题

时间:2017-01-03 12:53:58      阅读:624      评论:0      收藏:0      [点我收藏+]

不管是前台页面的js还是后台的java只要是有2个float相乘,结果总是那么不尽人意,因为对于float型或者double型的值,

相乘的时候都可能出现 像0.08000000000000002这种数字,比如:0.2 * 0.4 应该是 0.08,但是相乘的时候就已经是0.08000000000000002了,因此拿这个值来运算

肯定会出错的,现在把js代码写在下面():

 

//JS乘法函数,用来得到精确的乘法结果

var a=0.2;
var b=0.4;

console.log(a*b);
function accMul(arg1,arg2)
{
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
console.log(accMul(a,b))

js中float型相乘出现问题

原文:http://www.cnblogs.com/gshufan/p/6244304.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!