博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
为什么 PHP 和 JavaScript 取整 ((0.1+0.7)*10) 的结果不是 8?
阅读量:6675 次
发布时间:2019-06-25

本文共 817 字,大约阅读时间需要 2 分钟。

hot3.png

php 代码

intval((0.7+0.1)*10)

js 代码
parseInt((0.7+0.1)*10)
上面的结果都等于 7 这是为什么?
为什么 0.2+0.6 等等就不会这样? 

刚才测试了似乎跟语言没关系,所有语言都这样。

这和计算机的小数表示有关,

通常情况下,小数是用  表示的:

计算机中的浮点数
浮点指的是带有小数的数值,浮点运算即是小数的四则运算,常用来测量电脑运算速度。大部份计算机采用二進制(b=2)的表示方法。 (bit)是衡量浮点数所需存储空间的单位,通常为32位或64位,分别被叫作 和 。
比如单精度的浮点数,由32个bit位。按照
 标准,32位中有
1位是符号位(sign)
8位是指数位(exponent)
23位是数值 (fraction)
如下图所示:
18115447_0fEo.jpg
那么这个数的数值就是
(-1)^{sign} \times 2^{exponent_{2}} \times fraction_{2}
这样比如对于0.5,就可以表示成sign = 0, exponent = -1, fraction = 1
但实际上
对表示方法还做了一些优化,比如fraction必须是1-2之间的一个小数,这样fraction就只用表示小数位,而exponent的实际值是exponent + offset.
这样实际的计算公式是:
(-1)^{sign} \times 2^{exponent_{2} - 127_{10}} \times (1 + fraction_{2})
比如0.5的float表示为:
0 01111110 000
00000000
00000000
0000
其中0为符号位
01111110为指数位,十进制为126, 所以实际的exponent为126 - 127 = -1,
而 000
00000000
00000000
0000 为fraction,十进制为0,
所以0.5f = 
(-1)^{0} \times 2^{126 - 127} \times (1 + 0_{2})
这种表示方法带来的问题就是很多浮点数不能精确表示,比如0.1的浮点数表示为:
0 0111101 110011001100110011001101
实际上值为
(-1)^{0} \times 2^{123- 127} \times (1 + 10011001100110011001101_{2})\approx 0.10000000149011612

转载于:https://my.oschina.net/mickelfeng/blog/138351

你可能感兴趣的文章
mongodb 关闭服务 mongod -f /root/mongodb/bin/xx.conf --shutdown
查看>>
在dw下安装zen coding,并对其快捷键进行修改
查看>>
Windows Mobile上的HTML解析器
查看>>
Linux系统时间与RTC时间【转】
查看>>
Android -- isInEditMode
查看>>
JavaScript: JavaScript的简介和入门代码演示
查看>>
Windows Phone 7 开发 视频资料
查看>>
iOS:一些常用的框架
查看>>
Android开发环境——Eclipse ADT相关内容汇总
查看>>
C语言-函数
查看>>
Objective-C:用命令行参数的格式对文件进行IO操作
查看>>
一道算法题,看看大家的思路
查看>>
微软发布Project Oxford,供Azure户免费集多项功能
查看>>
Tslib触摸屏官网【转】
查看>>
Android——BitMap(位图)相关知识总结贴
查看>>
JAVA8之日期操作详解
查看>>
JavaScript-json数组排序
查看>>
MySQL学习笔记之内连接
查看>>
一个不错的CSS DIV布局,DIV高度自适应
查看>>
常见标签的默认属性值及相互作用——关于CSS reset的思考
查看>>