浮点型 float和double类型的内存结构和精度问题

首先引用一个例子在java中可能你会遇到这样的问题: 例:0.99999999f==1f //true 0.9999999f==1f //false 这是超出精度造成的,为了知道为什么会造成这样的问题,首先了解一下float和double的内存结构 1.内存结构 float和double的范围是由指数的位数来决定的.float的指数位有8位,而double的指数位有11位,分布如下: float:1bit(符号位) 8bits(指数位) 23bits(尾数位) double:1bit(符号位)…

C语言中float,double类型,在内存中的结构(存储方式)

C语言中float,double类型,在内存中的结构(存储方式)从存储结构和算法上来讲,double和float是一样的,不一样的地方仅仅是float是32位的,double是64位的,所以double能存储更高的精度. 任何数据在内存中都是以二进制(0或1)顺序存储的,每一个1或0被称为1位,而在x86CPU上一个字节是8位.比如一个16位(2 字节)的short int型变量的值是1000,那么它的二进制表达就是:00000011 11101000.由于Intel CPU的架构原因,它是按字…

不要在精确计算中使用float和double类型

http://blog.csdn.net/androiddevelop/article/details/8478879 一问题描述 float和double类型不能用于精确计算,其主要目的是为了科学计算和工程计算,它们执行二进制浮点原酸,目的是为了广泛的数值范围上提供较为精确的快速近似计算而精心设计的.但是如果设计钱币之类的计算需要很精确,所以这种情况不能使用float和double,因为要让其精确表示0.1 或者 10的任何负数次方值是不可能的. 二眼见为实,举例证明: [java] v…

Effective Java 第三版——60. 需要精确的结果时避免使用float和double类型

Tips 书中的源代码地址:https://github.com/jbloch/effective-java-3e-source-code 注意,书中的有些代码里方法是基于Java 9 API中的,所以JDK 最好下载 JDK 9以上的版本. 60. 需要精确的结果时避免使用float和double类型 float和double类型主要用于科学和工程计算. 它们执行二进制浮点运算,经过精心设计,可在很宽的范围内快速提供准确的近似值. 但是,它们不能提供准确的结果,不应在需要确切结果的地方使用.…

Java语言中：float、double数据类型在内存中是如何存储的

引用参考 https://www.cnblogs.com/chenmingjun/p/8415464.html#4291528 https://blog.csdn.net/yansmile1/article/details/70145416 java语言中,个字节(32位)来存储.double类型占用8个字节(64位). 从存储结构和算法上来讲,double和float是一样的,不一样的地方仅仅是float是32位的,double是64位的,所以double能存储更高的精度. 按照IEEE制定的…

Sql的decimal、float、double类型的区别

三者的区别介绍 float:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位) double:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E308(15个有效位) decimal:数字型,128bit,不存在精度损失,常用于银行帐目计算.(28个有效位) 按存储的范围进行排序 float(real) double decimal(numeric) decimal的详细介绍 decimal(a,b) 参数说明 a指定指定小数点左边和右边可…

14、Java中用浮点型数据Float和Double进行精确计算时的精度问题

一.浮点计算中发生精度丢失大概很多有编程经验的朋友都对这个问题不陌生了:无论你使用的是什么编程语言,在使用浮点型数据进行精确计算时,你都有可能遇到计算结果出错的情况.来看下面的例子. // 这是一个利用浮点型数据进行精确计算时结果出错的例子,使用Java编写,有所省略. double a = (1.2 - 0.4) / 0.1;System.out.println(a); 如果你认为这个程序的输出结果是“8”的话,那你就错了.实际上,程序的输出结果是“7.999999999999999”.好,…

Delphi XE7中各种字符串与字符类型的内存结构

1. ShortString 类型定义:type ShortString = string[255]; 内存结构与大小:ShortString 是每个字符为单字节的字符串.ShortString 的变量实际是一个指针,它指向堆中一个256字节大小的数据结构,第一个字节是字符串总字节的数目(不一定是字符数目),后面是字符的字节表示.ShortString 类型的变量最多可以容纳255个字符,超出的部分将会被丢弃.ShortString 可以存储非ASCII字符,这些字符以操作系统的 codepa…

float和double类型的存储方式

Float double 类型在计算机的存储方式计算机中只认识10的二进制数,那么该如何存储小数呢? 那么我们先看Floa类型: Float在计算机(32位)中是4个字节的,具体地:第一位为符号位0为正,1为负第2到第9位为指数位,第10到32位为尾数位,具体地如下图所示: 1 2 9 现在我们举个例子: 8.25的二进制表示方法为:1000.01 =1.00001*23 ,指数为3,尾数为00001,那么它怎样在二进制中存储呢? 首先看符号位为正,所以第一位为0,指数为3,要加上127=1…

关于float和double类型能表示的数据范围和精度分析

来自教材<计算机组成原理>p16 float:6--7位 double:15--16位意思就是double类型的数据,你确实能表达出很大的数字,但是其只有15位是精确的. 1.计算机中,因为需要计算电子的质量9*10^(-28)g和太阳的质量2*10^(33)g这样的大数据,需要引入一种新的方式来存取数据. ps:一开始的方式只有定点数的表示方法,只能存纯小数或则纯整数,范围只有2^n 2.把32位的空间(float)分割成3部分,S.E.M表示符号位.阶码.尾数,分别分配1位.8位.23位…

关于BigDecimal 和 double 类型保存金钱，以及精度问题，银行家舍入法

1. BigDecimal 类型数据的创建,构造函数有 public BigDecimal(BigInteger intVal, long val, int scale, int prec); public BigDecimal(char[] in, int offset, int len) ; public BigDecimal(String val); public BigDecimal(double val); public BigDecimal(BigInteger val); pu…

C语言 float、double数据在内存中的存储方式

float在内存中占4个字节(32bit),32bit=符号位(1bit)+指数位(8bit)+底数位(23bit) 指数部分指数位占8bit,可以表示数值的范围是0-(表示0~255一共256个数),因为指数可正可负,所以IEEE规定,此处算出的次方必须减去127才是真正的指数,所以float的指数范围是 -(-) 到+(-). 底数部分任何一个数的科学记数法都可以表示为1.xxx*^n,小数部分就可以表示为xxx,整数部分永远是1,不影响精度,所以可以不用储存.23bit二进制可以表示的…

float 与 double 类型区别

https://www.runoob.com/w3cnote/float-and-double-different.html float 单精度浮点数在机内占 4 个字节,用 32 位二进制描述. double 双精度浮点数在机内占 8 个字节,用 64 位二进制描述. 浮点数在机内用指数型式表示,分解为:数符,尾数,指数符,指数四部分. 数符占 1 位二进制,表示数的正负. 指数符占 1 位二进制,表示指数的正负. 尾数表示浮点数有效数字,0.xxxxxxx, 但不存开头的 0 和点. 指数存…

对于c语言int类型和float,以及double类型表示范围的计算

首先说一下我原来错误的认识 int是32个bit, 如果我们把第一位理解为符号位,那么很显然int的范围是-(2^31-1)~2^31-1 但是实际上我们都知道int的最小值是-2^31次.. 为什么会这样呢..首先对于这个问题困惑的话说明你的逻辑不够强因为如果第一位是符号位那么上面的分析必然是正确的..而且按照上面的表示方法,我们显然可以发现有两个零,一个是+0,一个是-0 然而实际上好像并没有这么一说所以说..从这里..正常的逻辑思维应该得出一个结论..那就是c语言的int表示方法并不…

字符串转换成float和double类型

double strtod(const char *nptr, char **endptr); float strtof(const char *nptr, char **endptr); long double strtold(const char *nptr, char **endptr); #include <stdlib.h> int main() { char *str = "1.1"; printf("%f\n", strtof(str, N…

Java - Float与Double类型比较

https://blog.csdn.net/wcxiaoych/article/details/42806313…

C/C++中float和double的存储结构（转）

在C/C++中float是32位的,double是64位的,两者在内存中的存储方式和能够表示的精度均不同,目前C/C++编译器标准都遵照IEEE制定的浮点数表示法来进行float,double运算. 无论是float还是double,在内存中的存储主要分成三部分,分别是: (1)符号位(Sign):0代表正数,1代表负数 (2)指数位(Exponent):用于存储科学计数法中的指数部分,并且采用移位存储方式 (3)尾数位(Mantissa):用于存储尾数部分对于两者在内存中的存储结构,如下图所…

【转载】 C#中float、double以及decimal类型有何不同

在C#语言中,float.double以及decimal类型都可以用来表示小数,但三者还是有一定的不同,有效数字为相比的话,decimal类型的有效数字最大,float类型最小.计算浮点类型的运算,如果只有float和double类型选择的话,建议选择double类型,计算误差相对小一些.如果是涉及到财务或者货币金额等金融计算,建议使用十进制decimal类型,decimal的有效位数很大,达到了28位,可以保证计算结果更为精准. 针对这3种类型,其中float和double为基础类型,而dec…

java float、double精度研究（转）

在java中运行一下代码System.out.println(2.00-1.10);输出的结果是:0.8999999999999999很奇怪,并不是我们想要的值0.9 再运行如下代码:System.out.println(2.00f-1.10f);输出结果:0.9 又正确了,为什么会导致这种问题?程序中为什么要尽量避免浮点数比较? 在java中浮点型默认是double的,及2.00和1.10都要在计算机里转换进行二进制存储,这就涉及到数据精度,出现这个现象的原因正是浮点型数据的精度问题.先了解下…

Java中 float、double使用注意问题

在java中运行一下代码 System.out.println(2.00-1.10);输出的结果是:0.8999999999999999很奇怪,并不是我们想要的值0.9 再运行如下代码:System.out.println(2.00f-1.10f);输出结果:0.9 又正确了,为什么会导致这种问题?程序中为什么要尽量避免浮点数比较? 在java中浮点型默认是double的,及2.00和1.10都要在计算机里转换进行二进制存储,这就涉及到数据精度,出现这个现象的原因正是浮点型数据的精度问题.先了解…

decimal，float和double的区别

http://www.cnblogs.com/yellowapplemylove/archive/2011/08/23/2150316.html 一直很奇怪C#的预定义数据类型中为什么加了一个decimal,有float和double不就够了吗?今天来挖一挖. 浮点型 Name CTS Type De script ion Significant Figures Range (approximate) float System.Single 32-bit single-precision flo…

java中如何使用BigDecimal使得Double类型保留两位有效数字

一.场景:从数据表中读出Decimal类型的数据直接塞给Double类型的对象时,并不会有什么异常. 如果要再此基础上计算,就会发生异常. 比如:读出数据为0.0092,将其乘以100,则变成了0.919999999999999... 二.原因: java mysql 数据类型对照如下: 类型名称显示长度数据库类型 JAVA类型 JDBC类型索引(int) 描述 VARCHAR L+N VARCHAR java.lang.String 12 CHAR N CHAR…

C#中对于float，double，decimal的误解(转载)

浮点型 Name CTS Type Description Significant Figures Range (approximate) float System.Single 32-bit single-precision floating point 7 ±1.5 × 10−45 to ±3.4 × 1038 double System.Double 64-bit double-precision floating point 15/16 ±5.0 × 10 −324 to ±1.7 ×…

decimal与float和double的区别

一直很奇怪C#的预定义数据类型中为什么加了一个decimal,有float和double不就够了吗?今天来挖一挖. 浮点型 Name CTS Type De script ion Significant Figures Range (approximate) float System.Single 32-bit single-precision floating point 7 ±1.5 × 10?45 to ±3.4 × 1038 double System.Double 64-bit dou…