为什么javascript小数相减会出现一长串的小数位数?


本文摘自PHP中文网,作者青灯夜游,侵删。

原因:整数型会自动转换成整型来计算,小数则直接转成double型进行计算;而double型需要精确到小数点后15位,因而javascript小数相减会出现一长串的小数位数。

本教程操作环境:windows7系统、javascript1.8.5版、Dell G3电脑。

javascript小数相减会出现一长串的小数位数的原因

1

2

3

4

5

6

7

8

<script>

var a='38.8';

var b='6.8';

alert(parseFloat(a)-parseFloat(b));

var a=134.22;

var b=6;

alert(a*b);

</script>

以上代码为什么产生一长串小数位出来,虽然比较精确,可没必要呀。

这个和数据结构有关系,整数型自动转换成正型计算,小数型直接转成double型计算。这是在内存中运算的时候必须这样,你该知道计算机只认识0和1吧,具体的就是浮点精准度的问题。

  • float 精确到小数点后7位

  • double 精确到小数点后15位

1

javascript:document.write( (11.3-10.1).toFixed(2) )

toFixed()方法不仅仅截去多余的小数位,同时它还根据截取位置的下一个小数位进行四舍五入。例如,对于数值10.739,截取到小数点后的两位数,结果将是10.74。而对于数值10.732,截取到小数点后的两位数,结果将是10.73。

注意,在JavaScript中我们只能截取小数点之后0位~20位的小数。

toFixed()方法仅被高版本的浏览器所支持,所以在使用之前最好先检查一下浏览器是否支持该方法,检查的代码如下所示:

1

2

3

4

5

6

7

8

9

10

11

var varNumber = 22.234;

  

if (varNumber.toFixed)

{

varNumber = varNumber.toFixed(2);

}

else //浏览器不支持toFixed()就使用其他方法

{

var div = Math.pow(10,2);

varNumber = Math.round(varNumber * div) / div;

}

这样可以解决,但你想问,怎么可能多出这么小数点出来。

为什么会出现如此无法理解的答案?

我Google了一下,发现原来这是JavaScript浮点运算的一个bug。

比如:7*0.8 JavaScript算出来就是:5.6000000000000005

网上找到了一些解决办法,就是重新写了一些浮点运算的函数。

下面就把这些方法摘录下来,以供遇到同样问题的朋友参考:

程序代码

阅读剩余部分

相关阅读 >>

html5实现微信jssdk录音播放语音的实例

pop()方法怎么用

javascript数组如何删除相同元素

javascript和css的区别是什么

javascript中事件对象的target和this的区别

javascript如何阻止事件冒泡和事件本身发生

使用这8个javascript库,可以更好地处理本地存储!!

javascript有数据类型么

js常用正则表达式总汇

javascript中amd和es6模块导入导出的比较(代码示例)

更多相关阅读请进入《javascript》频道 >>




打赏

取消

感谢您的支持,我会继续努力的!

扫码支持
扫码打赏,您说多少就多少

打开支付宝扫一扫,即可进行扫码打赏哦

分享从这里开始,精彩与您同在

评论

管理员已关闭评论功能...