看不见的浮点数，0.1+0.2竟然都算错

文章预览

说到浮点误差，有一个比较高深的计算机概念——浮点数，有兴趣的同学可以问度娘。简单说，在计算机的计算中，只能存储和处理二进制数据，就是1和0。Excel在计算时，首先要把十进制的数值转换为二进制，交给计算机处理，最后再把二进制的结果转换为十进制，显示到Excel中。 十进制数值转换为二进制数值的计算过程为： 1、 整数部分 ： 连续用该整数除以2取余数，然后用商再除以2，直到商等于0为止，最后把各个余数按相反的顺序排列。 如果将十进制数值22转换为二进制数值，其计算步骤如下： 22除以2结果为11，余数为0。 11除以2结果为5，余数为1。 5除以2结果为2，余数为1。 2除以2结果为1，余数为0。 1除以2结果为0，余数为1。 最后将余数按相反的顺序排列，整数22的二进制结果为10110。 2、 小数部分 ： 用2乘以十进制小数，将得到的整数部 ………………………………