js在计算浮点数的精度问题

  • A+
所属分类:前端工程

js在计算浮点数的时候,有时候会出现小数点精度不准确,与正确的答案有偏差,这篇文章介绍一下我遇到的问题与解决方法,如果你有更好的方法希望你在评论区进行留言。

出现问题的代码

这些是比较常见的易错代码

console.log(0.07*100); // 7.000000000000001  
console.log(0.1+0.2); // 0.30000000000000004

在计算的过程中
0.1 + 0.2在计算机中的表现形式是0.1000000000000000055511151231257827021181583404541015625 + 0.200000000000000011102230246251565404236316680908203125 = 0.3000000000000000444089209850062616169452667236328125

这是导致计算出现计算偏差的主要原因

维基百科oracle失精算法专栏 中有详细介绍浮点数的计算问题

解决方案

取整

Math.round((0.07*100))

保留小数

parseFloat((0.07*100).toPrecision(12)) // = 7  
parseFloat((0.01+0.02).toPrecision(12)) // = 0.03
  • 公众号
  • 扫一扫
  • weinxin
  • 打赏
  • 扫一扫
  • weinxin

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: