【javascript】浮点数运算问题分析及解决方法
问题:
在用 js 进行小数四则运算时发现了一个重大问题,比如:0.7 * 0.8 = 0.5599999999999999
分析:
在 js 中只有一种数字类型 Number,而且在 js 中所有的数字都是以 IEEE-754 标准格式表示的。浮点数的精度问题并不是 js 特有的,因为有些小数以二进制表示位数是无穷的,比如 1.1,其程序实际上无法真正的表示 1.1,而只能做到一定程度上的准确(1.09999999999999999),这是无法避免的精度丢失。
通过 chrome 控制台,我们可以得到一些测试数据:
- 1 - 0.9 == 0.1 //false
- 1 - 0.8 == 0.2 //false
- 1 - 0.7 == 0.3 //false
- 1 - 0.6 == 0.4 //true
解决方法:
那么该如何避免这类问题呢?解决的方法有很多,比较常用的是将浮点数转化成整数再做运算。
- //除法函数,用来得到精确的除法结果
- //说明:javascript 的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
- //调用:accDiv(arg1,arg2)
- //返回值:arg1 除以 arg2 的精确结果
- function accDiv(arg1,arg2){
- var t1 = 0,t2 = 0,r1,r2;
- try{t1 = arg1.toString().split('.')[1].length}catch(e){}
- try{t2 = arg2.toString().split('.')[1].length}catch(e){}
- with(Math){
- r1 = Number(arg1.toString().replace('.',''));
- r2 = Number(arg2.toString().replace('.',''));
- return (r1 / r2) * pow(10,t2 - t1);
- }
- }
- //给 Number 类型增加一个 div 方法,调用起来更加方便。
- Number.prototype.div = function (arg){
- return accDiv(this, arg);
- };
- //乘法函数,用来得到精确的乘法结果
- //说明:javascript 的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
- //调用:accMul(arg1,arg2)
- //返回值:arg1 乘以 arg2 的精确结果
- function accMul(arg1,arg2)
- {
- var m = 0,s1 = arg1.toString(),s2 = arg2.toString();
- try{m += s1.split('.')[1].length}catch(e){}
- try{m += s2.split('.')[1].length}catch(e){}
- return Number(s1.replace('.',''))*Number(s2.replace('.','')) / Math.pow(10,m);
- }
- //给 Number 类型增加一个 mul 方法,调用起来更加方便。
- Number.prototype.mul = function (arg){
- return accMul(arg, this);
- };
- //加法函数,用来得到精确的加法结果
- //说明:javascript 的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
- //调用:accAdd(arg1,arg2)
- //返回值:arg1 加上 arg2 的精确结果
- function accAdd(arg1,arg2){
- var r1,r2,m;
- try{r1 = arg1.toString().split('.')[1].length}catch(e){r1 = 0}
- try{r2 = arg2.toString().split('.')[1].length}catch(e){r2 = 0}
- m = Math.pow(10,Math.max(r1,r2));
- return (arg1 * m + arg2 * m) / m;
- }
- //给 Number 类型增加一个 add 方法,调用起来更加方便。
- Number.prototype.add = function (arg){
- return accAdd(arg,this);
- }
- //减法函数
- function accSub(arg1,arg2){
- var r1,r2,m,n;
- try{r1 = arg1.toString().split('.')[1].length}catch(e){r1 = 0}
- try{r2 = arg2.toString().split('.')[1].length}catch(e){r2 = 0}
- m = Math.pow(10,Math.max(r1,r2));
- //动态控制精度长度
- n = (r1 >= r2) ? r1 : r2;
- return ((arg2 * m - arg1 * m) / m).toFixed(n);
- }
- ///给 Number 类增加一个 sub 方法,调用起来更加方便
- Number.prototype.sub = function (arg){
- return accSub(arg,this);
- }
这样如果你要计算 0.7 * 0.8,只需(0.7).mul(0.8),调用 mul 方法就可以得到准确的结果了。
总结:
1、尽量不要用 js 进行复杂的运算,特别是浮点数的运算。
2、如果一定要进行浮点数运算,先将浮点数转化为整型,再运算。
【javascript】浮点数运算问题分析及解决方法的更多相关文章
- SQL Server2005索引碎片分析和解决方法
SQL Server2005索引碎片分析和解决方法 本文作者(郑贤娴),请您在阅读本文时尊重作者版权. 摘要: SQL Server,为了反应数据的更新,需要维护表上的索引,因而这些索引会形成碎片.根 ...
- Nginx 504 Gateway Time-out分析及解决方法
一.场景还原php程序在执行抓取远程图片库并保存至本地服务器的时候,出现了“504 Gateway Time-out”错误提示. 问题定位:由于图片巨多,所以下载时间很长(10分钟以上),引起网关超时 ...
- 改进动态设置query cache导致额外锁开销的问题分析及解决方法-mysql 5.5 以上版本
改进动态设置query cache导致额外锁开销的问题分析及解决方法 关键字:dynamic switch for query cache, lock overhead for query cach ...
- Code:Blocks 中文乱码问题原因分析和解决方法
下面说说修改的地方. 1.修改源文件保存编码在:settings->Editor->gernal settings 看到右边的Encoding group Box了吗?如下图所示: Use ...
- 【FAQ】接入HMS Core推送服务,服务端下发消息常见错误码原因分析及解决方法
HMS Core推送服务支持开发者使用HTTPS协议接入Push服务端,可以从服务器发送下行消息给终端设备.这篇文章汇总了服务端下发消息最常见的6个错误码,并提供了原因分析和解决方法,有遇到类似问题的 ...
- JavaScript 浮点数运算 精度问题
JavaScript小数在做四则运算时,精度会丢失,这会在项目中引起诸多不便,先请看下面脚本. //加减 <script type="text/javascript" lan ...
- 【转】javascript 浮点数运算问题
大多数语言在处理浮点数的时候都会遇到精度问题,但是在JS里似乎特别严重,来看一个例子 alert(45.6*13); 结果居然是592.800000000001,当然加法之类的也会有这个问题 那这是j ...
- C#中异常:“The type initializer to throw an exception(类型初始值设定项引发异常)”的简单分析与解决方法
对于C#中异常:“The type initializer to throw an exception(类型初始值设定项引发异常)”的简单分析,目前本人分析两种情况,如下: 情况一: 借鉴麒麟.NET ...
- apache外网不能访问分析与解决方法
apache安装好以后,在本机可以用:http://localhost 或者 http://127.0.0.1进行访问,但是,在外网(相对本机来说的,局域网也算)不能访问. 这种情况可以分为两个问题, ...
随机推荐
- libsvm_readme[zz from github]
Libsvm is a simple, easy-to-use, and efficient software for SVM classification and regression. It so ...
- MySQL,如何修改root帐户密码、如何解决root帐户忘记密码的问题
1. 如何修改root帐户密码 打开MySQL 5.6 Command Line Client窗口,输入当前密码登录,然后依次输入如下3条命令: use mysql; update user set ...
- 在c/c++中浮点数是否为0的判断
在c/c++中,因为浮点数在内存中的表示是不精确的,会有很微小的误差,所以判断是否为0,就看它的绝对值是不是<=eps. eps可以看成是epsilon的缩写,可以用来表示一个无穷小的量,通常取 ...
- wget常见用法
1.很多软件官网会有安装脚本,并把脚本搞成raw模式,方便下载后直接运行的shell文件.比如docker wget -qO- get.docker.com | bash -q的含义是:--quiet ...
- Unity创建一个简易的弹簧(弹动)效果
参考文章:http://www.cnblogs.com/SkyD/archive/2008/09/05/1284778.html 主要依据胡克公式F=-k·x.这里k是倔度系数,可以理解为k值越大弹性 ...
- Windows 虚拟桌面工具 Desktops v2.0
https://technet.microsoft.com/en-us/sysinternals/cc817881.aspx
- Angular 4.0从入门到实战
AngularJS 优点 模板功能强大丰富,并且是声明式的,自带了丰富的Angular指令: 是一个比较完善的前端MVC框架,包含模板,数据双向绑定,路由,模块化,服务,过滤器,依赖注入等所有功能: ...
- 菜鸟学Java(十二)——搭建一个完整的Java开发环境
作为一个Java程序员,配置一个java开发环境是必备的技能,今天给广大菜鸟初学者补上一课.环境的配置,大概就分三个1,JDK 2,Tomcat(或者其他的)3,eclipse(或者myeclipse ...
- JVM Troubleshooting
案例分享:如何通过JVM crash 的日志和core dump定位和分析Instrument引起的JVM crash https://docs.oracle.com/javase/7/docs/we ...
- 【Acm】算法之美—Jugs
题目概述:Jugs In the movie "Die Hard 3", Bruce Willis and Samuel L. Jackson were confronted wi ...