javascript小数相减会出现一长串的小数位数的原因
生活随笔
收集整理的這篇文章主要介紹了
javascript小数相减会出现一长串的小数位数的原因
小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
javascript小數(shù)相減會(huì)出現(xiàn)一長(zhǎng)串的小數(shù)位數(shù)的原因
?
<script> var a='38.8'; var b='6.8'; alert(parseFloat(a)-parseFloat(b)); var a=134.22; var b=6; alert(a*b); </script> 以上代碼為什么產(chǎn)生一長(zhǎng)串小數(shù)位出來(lái),雖然比較精確,可沒(méi)必要呀。 這個(gè)和數(shù)據(jù)結(jié)構(gòu)有關(guān)系,整數(shù)型自動(dòng)轉(zhuǎn)換成正型計(jì)算,小數(shù)型直接轉(zhuǎn)成double型計(jì)算。這是在內(nèi)存中運(yùn)算的時(shí)候必須這樣,你該知道計(jì)算機(jī)只認(rèn)識(shí)0和1吧,具體的就是浮點(diǎn)精準(zhǔn)度的問(wèn)題。 float 精確到小數(shù)點(diǎn)后7位 double 精確到小數(shù)點(diǎn)后15位 javascript:document.write( (11.3-10.1).toFixed(2) ) toFixed()方法不僅僅截去多余的小數(shù)位,同時(shí)它還根據(jù)截取位置的下一個(gè)小數(shù)位進(jìn)行四舍五入。例如,對(duì)于數(shù)值10.739,截取到小數(shù)點(diǎn)后的兩位數(shù),結(jié)果將是10.74。而對(duì)于數(shù)值10.732,截取到小數(shù)點(diǎn)后的兩位數(shù),結(jié)果將是10.73。 注意,在JavaScript中我們只能截取小數(shù)點(diǎn)之后0位~20位的小數(shù)。 toFixed()方法僅被高版本的瀏覽器所支持,所以在使用之前最好先檢查一下瀏覽器是否支持該方法,檢查的代碼如下所示: var varNumber = 22.234; if (varNumber.toFixed) { varNumber = varNumber.toFixed(2); } else //瀏覽器不支持toFixed()就使用其他方法 { var div = Math.pow(10,2); varNumber = Math.round(varNumber * div) / div; } 這樣可以解決,但你想問(wèn),怎么可能多出這么小數(shù)點(diǎn)出來(lái)。 為什么會(huì)出現(xiàn)如此無(wú)法理解的答案? 我Google了一下,發(fā)現(xiàn)原來(lái)這是JavaScript浮點(diǎn)運(yùn)算的一個(gè)bug。 比如:7*0.8 JavaScript算出來(lái)就是:5.6000000000000005 網(wǎng)上找到了一些解決辦法,就是重新寫(xiě)了一些浮點(diǎn)運(yùn)算的函數(shù)。 下面就把這些方法摘錄下來(lái),以供遇到同樣問(wèn)題的朋友參考: 程序代碼 //除法函數(shù),用來(lái)得到精確的除法結(jié)果 //說(shuō)明:javascript的除法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相除的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的除法結(jié)果。 //調(diào)用:accDiv(arg1,arg2) //返回值:arg1除以arg2的精確結(jié)果 function accDiv(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try{t2=arg2.toString().split(".")[1].length}catch(e){} with(Math){ r1=Number(arg1.toString().replace(".","")) r2=Number(arg2.toString().replace(".","")) return (r1/r2)*pow(10,t2-t1); } } //給Number類型增加一個(gè)div方法,調(diào)用起來(lái)更加方便。 Number.prototype.div = function (arg){ return accDiv(this, arg); } //乘法函數(shù),用來(lái)得到精確的乘法結(jié)果 //說(shuō)明:javascript的乘法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相乘的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的乘法結(jié)果。 //調(diào)用:accMul(arg1,arg2) //返回值:arg1乘以arg2的精確結(jié)果 function accMul(arg1,arg2) { var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) } //給Number類型增加一個(gè)mul方法,調(diào)用起來(lái)更加方便。 Number.prototype.mul = function (arg){ return accMul(arg, this); } //加法函數(shù),用來(lái)得到精確的加法結(jié)果 //說(shuō)明:javascript的加法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相加的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的加法結(jié)果。 //調(diào)用:accAdd(arg1,arg2) //返回值:arg1加上arg2的精確結(jié)果 function accAdd(arg1,arg2){ var r1,r2,m; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)) return (arg1*m+arg2*m)/m } //給Number類型增加一個(gè)add方法,調(diào)用起來(lái)更加方便。 Number.prototype.add = function (arg){ return accAdd(arg,this); } 在你要用的地方包含這些函數(shù),然后調(diào)用它來(lái)計(jì)算就可以了。 比如你要計(jì)算:7*0.8 ,則改成 (7).mul(8) 其它運(yùn)算類似,就可以得到比較精確的結(jié)果。 -------------------------------------------------------------------------- 以上是在網(wǎng)上一個(gè)JS牛人的博客上轉(zhuǎn)載的,不過(guò)上面只提及了加法、乘法和除法的解決辦法。 這個(gè)時(shí)候可能很多人就會(huì)想,有了加法,減法還不容易?我就是差點(diǎn)讓這個(gè)想法給害苦了。 其他的就不多說(shuō)了,帖出減法的代碼: function Subtr(arg1,arg2){ var r1,r2,m,n; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)); //last modify by deeka //動(dòng)態(tài)控制精度長(zhǎng)度 n=(r1>=r2)?r1:r2; return ((arg1*m-arg2*m)/m).toFixed(n); } 原文:http://blog.sina.com.cn/s/blog_8deabceb01017b7k.html轉(zhuǎn)載于:https://www.cnblogs.com/smallrock/p/3716520.html
總結(jié)
以上是生活随笔為你收集整理的javascript小数相减会出现一长串的小数位数的原因的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 怎样可以预防免疫性不孕
- 下一篇: 亚龙湾行李寄存多少钱