关于float/double的取值范围、精度和表示

news/2024/7/3 12:52:41 标签: float, double, 精度, 范围, 表示

https://blog.csdn.net/shenziheng1/article/details/79471340

1.floatdouble范围精度

        floatdouble范围是由指数的位数来决定的。float的指数位有8位,而double的指数位有11位,分布如下:
float:1bit(符号位)+8bits(指数位+23bits(尾数位)
double:1bit(符号位)+ 11bits(指数位)+ 52bits(尾数位)
        在数学中,特别是在计算机相关的数字(浮点数)问题的表述中,有一个基本表达法:
   value of floating-point = significand x base ^ exponent , with sign --- F.1
  译为中文表达即为:
   (浮点)数值 =      尾数    ×    底数 ^ 指数,(附加正负号)---------------- F.2
于是,float的指数范围为-127~128,而double的指数范围为-1023~1024,并且指数位是按补码的形式来划分的。其中负指数决定了浮点数所能表达的绝对值最小的数;而正指数决定了浮点数所能表达的绝对值最大的数,也即决定了浮点数的取值范围float范围为-2^128 ~ +2^128,也即-3.40E+38 ~ +3.40E+38;double范围为-2^1024 ~ +2^1024,也即-1.79E+308 ~ +1.79E+308。

        

        floatdouble精度是由尾数的位数来决定的。浮点数在内存中是按科学计数法来存储的,其整数部分始终是一个隐含着的“1”,由于它是不变的,故不能对精度造成影响。
float:2^23 = 8388608,共七位,意味着最多能有7位有效数字,但绝对能保证的为6位,也即float精度为6~7位有效数字;
double:2^52 = 4503599627370496,一共16位,同理,double精度为15~16位。

2.C#/C++对于浮点数的存储

        C 语言和C#语言中,对于浮点类型的数据采用单精度类型(float)和双精度类型(double)来存储,float数据占用32bit, double数据占用64bit,我们在声明一个变量float f= 2.25f的时候,是如何分配内存的呢?如果胡乱分配,那世界岂不是乱套了么,其实不论是float还是double在存储方式上都是遵从IEEE的规范的,float遵从的是IEEE R32.24 ,而double 遵从的是R64.53。

         无论是单精度还是双精度在存储中都分为三个部分:
        1.符号位(Sign) : 0代表正,1代表为负
        2.指数位(Exponent):用于存储科学计数法中的指数数据,并且采用移位存储
        3.尾数部分(Mantissa):尾数部分

2.1 float / double的存储方式

 

          R32.24和R64.53的存储方式都是用科学计数法来存储数据的,比如8.25用十进制的科学计数法表示就为:8.25*10e0,而120.5可以表示为:1.205*10e2, 。而计算机根本不认识十进制的数据,他只认识0,1,所以在计算机存储中,首先要将上面的数更改为二进制的科学计数 法表示,8.25用二进制表示表示为1000.01。120.5用二进制表示为:1110110.1用 二进制的科学计数法表示1000.01可以表示为1.0001*2e3,1110110.1可以表示为1.1101101*2e6,任何一个数都的科学计数法表示都为1.xxx*2en, 尾数部分就可以表示为xxxx,第一位都是1嘛,干嘛还要表示呀?可以将小数点前面的1省略,所以23bit的尾数部分,可以表示精度却变成了 24bit,道理就是在这里,那24bit能精确到小数点后几位呢,我们知道9的二进制表示为1001,所以4bit能精确十进制中的1位小数点, 24bit就能使float能精确到小数点后6位,而对于指数部分,因为指数可正可负,8位的指数位能表示的指数范围就应该为:-127-128了,所以 指数部分的存储采用移位存储,存储的数据为元数据+127,下面就看看8.25和120.5在内存中真正的存储方式。

2.2 实例解析

          首先看下8.25,用二进制的科学计数法表示为:1.0001*2e3。按照上面的存储方式,符号位为:0,表示为正,指数位为:3+127=130 ,尾数部分0001,故8.25的存储方式如下图所示:

          而单精度浮点数120.5的存储方式如下图所示:


http://www.niftyadmin.cn/n/1281211.html

相关文章

网页设计之 JSP_1

刘志勇网页制作课程地址&#xff1a; http://person.nenu.edu.cn/lzy/html/Show1.asp?typeid25 JSP 环境配置 (一) 安装JDK(jdk-1_5_0-windows-i586.exe)&#xff0c;默认安装&#xff1b; (二) 安装Tomcat。<两个文件安装顺寻不可颠倒> tomcat7.0压缩版的配置方法(推荐…

ifstream seekg 问题

文件输入流&#xff08;ifstream&#xff09;读到文件尾之后&#xff0c;调用seekg 重定向 读pos 类似于以下代码片段&#xff1a; //read whole file while&#xff08;ifs.readline(str,strLen)&#xff09;{std::cout << line << " : "<<str&…

速读原著-TCP/IP(TCP窗口大小通告)

第19章 TCP的交互数据流 19.5 窗口大小通告 在图1 9 - 4中&#xff0c;我们可以观察到s l i p通告窗口大小为4 0 9 6字节&#xff0c;而v a n g o g h通告其窗口大小为8 1 9 2个字节。该图中的大多数报文段都包含这两个值中的一个。 然而&#xff0c;报文段5通告的窗口大小为…

速读原著-TCP/IP(TCP的成块数据流)

第20章 TCP的成块数据流 20.1 引言 在第1 5章我们看到T F T P使用了停止等待协议。数据发送方在发送下一个数据块之前需要等待接收对已发送数据的确认。本章我们将介绍 T C P所使用的被称为滑动窗口协议的另一种形式的流量控制方法。该协议允许发送方在停止并等待确认前可以连…

《深入Ajax架构和最佳实践》读书笔记

在Web开发中&#xff0c;因为Ajax是前端和后台交互的主要方式之一&#xff0c;其他的交互方式有Flash,Slverlight。特别是网页游戏&#xff0c;大多数还是采用Flash&#xff0c;一方面可以使用ActionScript来编写代码&#xff0c;虽然ActionScript也是根据ECMAScript规范来实现…

速读原著-TCP/IP(TCP的正常数据流)

第20章 TCP的成块数据流 20.2 正常数据流 我们以从主机s v r 4单向传输8 1 9 2个字节到主机 b s d i开始。在b s d i上运行s o c k程序作为服务器&#xff1a; bsdi % sock -i -s 7777其中&#xff0c;标志- i和- s指示程序作为一个“吸收&#xff08; s i n k&#xff09;”…

eclipse中创建maven web项目

Maven的Eclipse插件m2eclipse在线安装地址 http://m2eclipse.sonatype.org/sites/m2e&#xff1b;我又试了link方式安装也没什么作用&#xff0c;不知怎么回事&#xff1f; 还有让webapp显示到最上层的WTP插件http://m2eclipse.sonatype.org/sites/m2e-extras 下面介绍方法 一、…

Composition vs aggregation vs association summary

Relationships between objects There are many different kinds of relationships two objects may have in real-life, and we use specific “relation type” words to describe these relationships. For example: a square “is-a” shape. A car “has-a” steering wh…