在碰见这个问题之前我完全没有这个概念, 碰见了特此记录;
项目 js 里面中用到了 number*0.2(其中 number 是一个整数, 我测试的时候是 259), 得到的结果却是 51.80000000000000004 这么个结果,
当时直接蒙逼, 根本不知道什么原因, 随手在 java 中写了一个 System.out.println(259*0.2), 得到一样的结果;
这个时候觉得就不是数据类型的问题了, 上网围观大神给出的原因
---------------------------------------------------------------------------------------------------------------------------------------------------
网上有这样一个问题: 0.1+0.2 在计算机中的结果
不论 java,javascript,python 中的结果都是 0.30000000000000004
大神给出的原因 (转载: http://blog.csdn.net/zcczcw/article/details/7362473):
计算机中存储的都是二进制的 0 和 1, 而我们现实中的数存入计算机中转换为二进制时有可能不能整除,
也就是不能正好整除, 所以用二进制表示现实中的数并计算就产生了误差
把十进制的 0.1 和 0.2 转换为二进制:
- 0.1 => 0.0001 1001 1001 1001(1001 无限循环)
- 0.2 => 0.0011 0011 0011 0011(0011 无限循环)
但是我们计算机的硬件存储的位数是有限制的不可能无限循环下去, 一般双精度浮点数总共占用 64 位,
其中最多 53 位为有效精度数字 (包括符号位), 所以存储时:
- 0.1=>0.0001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001
- 0.2=>0.0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011
- 0.1+0.2=>0.0100 1100 1100 1100 1100 1100 11001 100 1100 1100 1100 1100 1100
转换为十进制就是: 0.30000000000000004
来源: http://www.bubuko.com/infodetail-2512927.html