java float小数计算着没了

2024-10-04

【转】JAVA程序中Float和Double精度丢失问题

原文网址:http://blog.sina.com.cn/s/blog_827d041701017ctm.html 问题提出:12.0f-11.9f=0.10000038,"减不尽"为什么? 来自MSDN的解释: http://msdn.microsoft.com/zh-cn/c151dt3s.aspx 为何浮点数可能丢失精度浮点十进制值通常没有完全相同的二进制表示形式. 这是 CPU 所采用的浮点数据表示形式的副作用.为此,可能会经历一些精度丢失,并且一些浮点运算可能会产生意外的结果

java用double和float进行小数计算精度不准确

java用double和float进行小数计算精度不准确大多数情况下,使用double和float计算的结果是准确的,但是在一些精度要求很高的系统中或者已知的小数计算得到的结果会不准确,这种问题是非常严重的. <Effective Java>中提到一个原则,那就是float和double只能用来作科学计算或者是工程计算,但在商业计算中我们要用java.math.BigDecimal,通过使用BigDecimal类可以解决上述问题,java的设计者给编程人员提供了一个很有用的类BigDecim

Java float保留两位小数或多位小数

Java float保留两位小数或多位小数方法1:用Math.round计算,这里返回的数字格式的. float price=89.89;int itemNum=3;float totalPrice=price*itemNum;float num=(float)(Math.round(totalPrice*100)/100); //如果要求精确4位就*10000然后/10000 方法2(OK): 用DecimalFormat 返回的是String格式的.该类对十进制进行全面的封装.像

Java编程的逻辑 (5) - 小数计算为什么会出错？

本系列文章经补充和完善,已修订整理成书<Java编程的逻辑>,由机械工业出版社华章分社出版,于2018年1月上市热销,读者好评如潮!各大网店和书店有售,欢迎购买,京东自营链接:http://item.jd.com/12299018.html 违反直觉的事实计算机之所以叫"计算"机就是因为发明它主要是用来计算的,"计算"当然是它的特长,在大家的印象中,计算一定是非常准确的.但实际上,即使在一些非常基本的小数运算中,计算的结果也是不精确的. 比如: flo

【Java】使用BigDecimal类进行精确小数计算

在商业计算中(尤其是计算价格)需要使用BigDecimal类来进行精确小数计算,因为用其他类型计算(如double)得到的结果不是精确的! 写个测试类. import org.junit.Test; import java.math.BigDecimal; public class BigDecimalTest { @Test public void test1(){ System.out.println(0.05 + 0.01); // 0.060000000000000005 System.

java中小数的处理：高精度运算用bigDecimal类，精度保留方法，即舍入方式的指定

一. 计算机的小数计算一定范围内精确,超过范围只能取近似值: 计算机存储的浮点数受存储bit位数影响,只能保证一定范围内精准,超过bit范围的只能取近似值. java中各类型的精度范围参见:http://blog.csdn.net/longshenlmj/article/details/47616481 编程时注意: doulbe类型的数,不能用等号判定是否相等(或者是一定范围内可以).因为两次同样的计算(除法)结果可能出现小数部分不同.甚至极端的时候,初始化两个小数时,都可能不相等(用数值和字

Java 高精度浮点数计算工具

说起编程中的高精度数值,我第一反应就是double类型了.的确,double阶码11位,尾数52位,几乎能应对任何苛刻的要求......然而,当我天真地尝试用double来算泰勒展开式的函数值,离散代数的狰狞性瞬间完全暴露眼前. 我不是数学出身,也并不关心那些奇异的函数形式.我只是想推导一个物理系统的冲击响应函数.那个函数没法求得解析解,我只好用皮卡迭代法求泰勒级数式.经过一番挣扎,级数通项终于确定了,但是函数的绘图却成了隐藏难题. 函数的形式: \[f(x)={\sum_{n=1}^{\inf

java 取小数点后两位不四舍五入,怎么做

java 取小数点后两位不四舍五入,怎么做正常版: //正常版: import java.text.DecimalFormat; import java.math.RoundingMode; DecimalFormat formater = new DecimalFormat(); formater.setMaximumFractionDigits(2); formater.setGroupingSize(0); formater.setRoundingMode(RoundingMode.F

java 保留小数点后N位数(若干位)，几种实现的方式总结

import java.math.BigDecimal;import java.text.DecimalFormat;import java.text.NumberFormat;/** * java 保留小数点后N位数(若干位)位,几种实现的方式总结 * (1)常用的是1.DecimalFormat,和2.BigDecimal * (2)4.String .format("%.2f",dbstr); * @author zhangqf * */public class BigDecim

shell的数值计算，小数计算

shell脚本中,可以进行数值计算, 如加减乘除,通过expr.let.(())等完成,文章介绍:http://blog.csdn.net/longshenlmj/article/details/14166193 但是上面的运算只支持整数. 小数计算怎么办? shell中小数计算通过bc,awk和nawk工具等完成使用bc的代码如: click=`awk -F"\t" '$1==2 {print $2}' ctr_result.txt` show=`awk -F"\t&q

Java闰年的计算，Calendar的用法

Java闰年的计算,Calendar的用法代码如下: package com.aaa.zuoye; import java.text.ParseException; import java.util.Calendar; import java.util.Scanner; public class ZuoYe3 { public static void main(String[] args) throws ParseException { System.out.println("请输入您想知道的

Java基础-时间复杂度计算方式

Java基础-时间复杂度计算方式作者:尹正杰版权声明:原创作品,谢绝转载!否则将追究法律责任. 时间复杂度通常是衡量算法的优劣的,衡量算法的时间严格来讲是很难衡量的,由于不同的机器性能不用环境都会造成不同的执行时间. 一.什么是时间复杂度 1>.什么是时间频度算法的执行时间和语句的执行次数成正比,因此通过计算执行测试来推断执行时间.算法中语句执行次数称为语句频度或时间频度,记为T(n),n是问题的规模,T是Time. 2>.什么是时间复杂度当时间频度的n不断变化时,T(n)也在不断

YTU 2577: 小数计算——结构体

2577: 小数计算--结构体时间限制: 1 Sec 内存限制: 128 MB 提交: 978 解决: 647 题目描述小数可以看成是一个点和两个数组成的,因此可以定义成一个小数的结构体,现在请用结构体的知识来计算两个小数相加. 注意:不考虑进位,输入的值都是小数,小数位只有一位. 输入输入两个小数输出输出两个小数的和样例输入 1.1 2.2 样例输出 3.3 提示 //以下代码自动添加到程序结尾 //c++ int main() { xiaoshu a,b; v

搭建java环境时，DOS输入java有反应，javac没反应的解决办法。

2018-11-12 搭java环境踩了许多坑,之前搭环境时在命令台输入java有反应,javac没反应,后来试了很多方法都一样,然后就把java的所有的环境变量都删了,在控制面板里的卸载程序把所有的相关软件都卸了,又在网上找最新的教程,结果我在oracle官网上下载的目前最新的jdk-11.0.1安装后,安装后java根目录如下图: 然后在DOS中输入java -version显示: 但输入javac正常显示,找了好多,百度没得一个是输入javac有反应,输入java没得反应的,后来我去注册表

Java Convention 公约数计算

java取小数点后两位

package com.yonyou.sud.algorithm; import java.math.BigDecimal;import java.text.DecimalFormat;/*** java取小数点后两位小数 * @author Sud**/public class Decimal62 {public static void main(String[] args) {/** 第一种方法 java.text.DecimalFormat*/DecimalFormat df = new

Java练习 SDUT-1586_计算组合数

计算组合数 Time Limit: 1000 ms Memory Limit: 32768 KiB Problem Description 计算组合数.C(n,m),表示从n个数中选择m个的组合数. 计算公式如下: 若:m=0,C(n,m)=1 否则, 若 n=1,C(n,m)=1 否则,若m=n,C(n,m)=1 否则 C(n,m) = C(n-1,m-1) + C(n-1,m). Input 第一行是正整数N,表示有N组要求的组合数.接下来N行,每行两个整数n,m (0 <= m <= n

Java初学者作业——编写JAVA程序，计算跳水运动员本次动作的最终得分。

返回本章节返回作业目录需求说明: 编写JAVA程序,计算跳水运动员本次动作的最终得分. 规则如下: 在跳水比赛中,共有六位裁判对运动员所完成的动作进行评分,每位裁判的评分在0-10之间,运动员最终的得分规则为:在六位裁判的评分中去掉一个最高分和一个最低分,其余评分之和即为运动员本次动作的最终得分. 实现思路: 定义数组scores,存储所有裁判给出的评分. 定义变量max.min,用于存储最高分和最低分. 定义变量sum,用于存储所有裁判评分之和. 使用for循环实现数组scores的初始化

解决java float double 浮点型参与计算失精度

本人前段时间做一个社区电商应用,发现了一个天坑 ...................让我哭会 . 下面听听我的踩坑之路吧 ,电商肯定跟￥打交道了,计算少不了的.由于本人太菜单纯的以为 float double 可以直接参与加减乘除感觉这种代码万无一失没去想这么多直接 float*int . 之前简单测试没问题,项目上线后自己偶然才发现的(不知道公司测试干嘛的) ,当选择多件商品时 , 还是直接说现象吧比如在代码中 0.1 f * A A为int 型

[Java基础] Java float保留两位小数或多位小数

方法1:用Math.round计算,这里返回的数字格式的. float price=89.89; int itemNum=3; float totalPrice=price*itemNum; float num=(float)(Math.round(totalPrice*100)/100);//如果要求精确4位就*10000然后/10000 方法2:用DecimalFormat 返回的是String格式的.该类对十进制进行全面的封装.像%号,千分位,小数精度.科学计算. float price=

JAVA中精确计算金额BigDecimal

package com.chauvet.utils; import java.math.BigDecimal; import java.text.DecimalFormat; import java.text.NumberFormat; /*** * * 金额 * * 如果需要精确计算,必须用String来够造BigDecimal! !! * * Java里面的商业计算,不能用float和double,因为他们无法进行精确计算. * 但是Java的设计者给编程人员提供了一个很有用的类BigDe

java float小数计算着没了

热门专题