解决javascript中的浮点数计算不精确问题

时间:2023-01-08 09:29:03

 

在javascript中的浮点数计算不准确javascript的两个浮点数算法结果会有误差。


加减法

原理:
取小数位多的一个(Math.max(r1,r2))
将加数都乘以10的m次方(变成整数)
相加后再除以m,得出精确数据

乘除法

原理:
将乘数和被乘数转成字符串,计算其小数点后位数的和(m)
将乘数和被乘数去掉小数点(转成整数)后,转为Number类型(可以精确乘运算)
相乘后除以10的m次方,得出精确数据



//乘法

第一种方法:


function accMul(arg1,arg2) {
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
Number.prototype.mul = function (arg){
return accMul(arg, this);
}


注意的是:try/catch可能会出现些问题  http://www.cnblogs.com/freshmen/p/4424667.html

第二种方法:


function Mul2(arg1,arg2){
var r1,r2, m, n,q;
if(parseInt(arg1) == arg1){
r1 = 0;
}else{
r1 = arg1.toString().split(".")[1].length;
}
if(parseInt(arg2) == arg2){
r2 = 0;
}else{
r2 = arg2.toString().split(".")[1].length;
}
m = Math.pow(10,r1);
n = Math.pow(10,r2);
q = m*n;
var sum = (((arg1*m) * (arg2*n))/q);
return sum;
}


//除法


function FloatDiv(arg1,arg2){

var t1=0,t2=0,r1,r2;

try{t1=arg1.toString().split(".")[1].length}catch(e){}

try{t2=arg2.toString().split(".")[1].length}catch(e){}

with(Math){

r1=Number(arg1.toString().replace(".",""));



r2=Number(arg2.toString().replace(".",""));

return (r1/r2)*pow(10,t2-t1);

}

}


//减法


function FloatSub(arg1,arg2){

var r1,r2,m,n;

try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}

try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}

m=Math.pow(10,Math.max(r1,r2));

//动态控制精度长度

n=(r1>=r2)?r1:r2;

return ((arg1*m-arg2*m)/m).toFixed(n);

}


//加法

function FloatAdd(arg1,arg2){

var r1,r2,m;

try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}

try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}

m=Math.pow(10,Math.max(r1,r2));

return (arg1*m+arg2*m)/m;

}