js 浮点型加法计算错误

2024-10-02

js 浮点型运算出错的原因和解决方法

在工作中经常需要进行数字运算,当然也会遇到浮点型数字的运算,但是运算结果却并不是想要. 这种小孩子都会做的简单运算,强大的计算居然算算错?原来,计算机的运算都需要转成二制运算,而二进制和实现位数限制有些数无法有限表示. 比如:以下是十进制小数对应的二进制表示 0.1 >> 0.0001 1001 1001 1001…(1001无限循环) 0.2 >> 0.0011 0011 0011 0011…(0011无限循环计算机里每种数据类型的存储是一个有限宽度,比如 JavaScript

在js脚本里计算多个小数的加法问题

当在js脚本里计算多个小数的加法时,算得的结果往往会自动取整,这时候我们就应该加入以下代码: function toDecimal(x) { var val = Number(x); if (!isNaN(parseFloat(val))) { val = val.toFixed(2); } return val; } x参数是相加的计算结果,这样返回的值才是我们想要的值 .toFixed(2) 是将小数保留两位小数

js,java,浮点数运算错误及应对方法

js,java浮点数运算错误及应对方法一,浮点数为什么会有运算错误 IEEE 754 标准规定了计算机程序设计环境中的二进制和十进制的浮点数自述的交换.算术格式以及方法. 现有存储介质都是2进制.2进制的进制基数是2,那么一个数字只要被因素包含大于2的质数的数除,都会产生无限循环小数.无限循环小数和无理数都无法,和非无限循环的有理数一起用同一种方式存储到存储介质上的同时还保持计算的兼容性. 对于无限循环小数,可以设计一种格式存储到介质上,但是同时又要和非无限循环的有理数能够计算,效率应该会变得

单精度浮点数（float）加法计算出错

场景: 一个float型的变量赋值1170601,加上19000000,结果出现错误. 原因: float占用4个字节(32位)存储空间,包括符号位1位,阶码位8位,尾数23位.浮点数精度与它的尾数有关. 尾数为二进制小数1.m,m为23位的小数.所以浮点数的精度为24位二进制有效位数.2的24次方为16777216. 19000000 > 16777216,做加法计算之后丢失精度导致结果出错. 解决方法: 将float用double替换,double占用8个字节(64位)存储空间,包括符号位1

js字符串长度计算(一个汉字==两个字符)和字符串截取

js字符串长度计算(一个汉字==两个字符)和字符串截取 String.prototype.realLength = function() { return this.replace(/[^\x00-\xff]/g, "**").length; // [^\x00-\xff] - 匹配非双字节的字符 }; String.prototype.realSubstring = function(n){ var str = this||''; if(this.realLength()<=n

在MyEclipse中如何去掉JS或jsp语法错误提示!

在MyEclipse中如何去掉JS或jsp语法错误提示! 关于在 MyEclipse 上 WEB 工程里面的 JS/JSP 经常会有语法错误提示,这是由于 MyEclipse 对其语法要求相当严格所造成的,而这些文件本身是可以运行并没有什么错误的,在你实际应用部署中并无影响 . 此问题解决办法有两种: 一.就是您不用去管它提示,直接部署到你的 WEB 容器上运行是可以的,但此方法欠妥当. 二.选择你的工程右击菜单—— > 点击 MyEclipse 菜单项的 Exclude From Valida

vue.js初探：计算属性和methods

在vue.js中,计算属性和methods方法的函数相同时,两者的最终执行结果都是相同的.然而不同的是,计算属性是基于它的依赖缓存.计算属性只有在它的相关依赖发生改变时才会重新取值.这就意味着只要 message 没有发生改变,多次访问 reversedMessage 计算属性会立即返回之前的计算结果,而不必再次执行函数. 这也同样意味着如下计算属性将不会更新,因为 Date.now() 不是响应式依赖: computed: { now: function () { return Date.no

C++算法之大数加法计算的代码

如下代码段是关于C++算法之大数加法计算的代码,希望对大家有用. { int length; int index; int smaller; int prefix = 0; if(NULL == src1 || 0 >= length1 || NULL == src2 || 0 >= length2) return NULL; length = length1 > length2 ? (length1 + 1) : (length2 + 1); assert(NULL != dest);

[js]js中6种错误处理机制

js中6种错误 http://javascript.ruanyifeng.com/grammar/error.html#toc5 https://www.jianshu.com/p/467b9a145dcc try cache try { console.log(x); }catch (e) { console.dir(e); } console.log('还可以执行') try { console.log(x); }catch (e) { console.dir(e); throw new E

Uploadify.js引用导致浏览器宽度计算错误，布局混乱

首先,本人新手,高手勿喷,请忽略.谢谢. 今天在写代码的时候遇到一个奇葩问题,我再在页面加载完成以后,动态计算DIV宽度,将整个层铺满浏览器.一切正常.单当我引入jquery.uploadify.js以后.DIV居然自动跑到后面去了,不停的检查js代码以后发现,问题出现在function v(){}里面,居然动态在body 里创建了一个object元素,导致body宽度出了问题.目前给出一个比较简单的解决方法记录下来,以后查看. 也可能是我学习不精导致,大家不要笑.可以留言相互学习..

JS 浮点型计算的精度问题推荐的js 库推荐的类库 Numeral.js 和 accounting.js

推荐的类库 Numeral.js 和 accounting.js 文章来自 http://www.css88.com/archives/7324#more-7324

js 自定义加减乘除方法（防止js自身计算错误）

<!DOCTYPE html> <html> <head> <meta http-equiv="Content-Type" content="text/html; charset=utf-8" /> <title></title> </head> <body> <script type="text/javascript"> /** * 乘法

js操作时间加法减法计算格式化时间

Date.prototype.Format = function (fmt) { var o = { "M+": this.getMonth() + 1, //月份 "d+": this.getDate(), //日 "h+": this.getHours(), //小时 "m+": this.getMinutes(), //分 "s+": this.getSeconds(), //秒 "q+&q

js浮点数的计算总结

在js浮点值的计算中,很多时候会出现不准确的情况,如下面的情况 console.log(2.2 + 2.1) // 4.300000000000001 console.log(2.2 - 1.9) // 0.30000000000000027 console.log(2.2 * 2.2) // 4.840000000000001 console.log(2.1 / 0.3) // 7.000000000000001 console.log(10 - 9.99) // 0.009999999999

js浮点数的计算

js在计算浮点数时可能不够准确,会产生舍入误差的问题,这是使用基于IEEE745数值的浮点计算的通病,并非ECMAScript一家,其他使用相同数值格式的语言也存在这个问题. 这里讲一下js浮点数加.减.乘.除的正确做法. 乘法运算整数的乘法运算是准确的,这里我们将浮点数的乘法运算转化为整数乘法,然后除以10的他们小数位数之和次方,如0.03乘以0.05,转化为3 * 5 / 1e4 //乘法运算 0.03 * 0.05 变成3 * 5 / 10^4 function

js中数字计算精度

其实同样的问题在java中也有存在,同样是浮点数的问题问题这样的: 37.5*5.5=206.08 (JS算出来是这样的一个结果,我四舍五入取两位小数) 我先怀疑是四舍五入的问题,就直接用JS算了一个结果为:206.08499999999998 怎么会这样,两个只有一位小数的数字相乘,怎么可能多出这么小数点出来. 我Google了一下,发现原来这是JavaScript浮点运算的一个bug. 比如:7*0.8 JavaScript算出来就是:5.6000000000000005 网上找到了一些解

一切的浮点型进行计算操作都要用BigDecimal

简化: 1.引言 float和double类型的主要设计目标是为了科学计算和工程计算.他们执行二进制浮点运算,这是为了在广域数值范围上提供较为精确的快速近似计算而精心设计的.然而,它们没有提供完全精确的结果,所以不应该被用于要求精确结果的场合.但是,商业计算往往要求结果精确,这时候BigDecimal就派上大用场啦. 先看下面代码 public static void main(String[] args) { System.out.println(0.2 + 0.1); System.out.

js根据经纬度计算两点距离

js版-胡老师 google.maps.LatLng.prototype.distanceFrom = function(latlng) { var lat = [this.lat(), latlng.lat()] var lng = [this.lng(), latlng.lng()] var R = 6378137; var dLat = (lat[1] - lat[0]) * Math.PI / 180; var dLng = (lng[1] - lng[0

js浮点数精度丢失问题及如何解决js中浮点数计算不精准

js中进行数字计算时候,会出现精度误差的问题.先来看一个实例: console.log(0.1+0.2===0.3);//false console.log(0.1+0.1===0.2);//true 上面第一个的输出会超出我们的常识,正常应该为true,这里为什么会是false呢,直接运行会发现0.1+0.2在js中计算的结果是: console.log(0.1+0.2);//输出0.30000000000000004 这对于浮点数的四则运算(加减乘除),几乎所有的编程语言都会出现上面类似的精

2016青岛区域赛.Coding Contest(费用流 + 概率计算转换为加法计算)

Coding Contest Time Limit: 2000/1000 MS (Java/Others) Memory Limit: 65536/65536 K (Java/Others)Total Submission(s): 5968 Accepted Submission(s): 1413 Problem Description A coding contest will be held in this university, in a huge playground. Th

js 浮点型加法计算错误

热门专题