今天看啥  ›  专栏  ›  志军

只有1%的程序员搞懂过浮点数陷阱

志军  · 公众号  · Python  · 2019-04-16 17:17
稍有标题党味道,但内容纯干货,先从一个例子说起>>> 0.1+0.2==0.3False当你第一次看到这个结果时可能会非常惊讶,原来还有个这么大的bug,再来看看表达式 0.1+0.2 到底等于多少?>>> 0.1+0.20.30000000000000004完全超出我们的想象。那么这个操作在计算机里面到底发生了什么事情?我们还是回到二进制。首先,需要明确一点,在计算机中无论是整数、浮点数、还是字符串最终都是用二进制来表示的。整数的二进制表示法整数 9 在计算机中二进制表示是: 1001 ,怎么得来的?用十进制整数整除以2,得到商和余数,该余数就是二进制数的最低位,然后继续用商整除以2,得到新的商和余数,以此类推,直到商等于0,由所有余数倒排组成了该整数的二进制表现形式。用代码表示是:>>> n = 9>>> while n >0: n,e = divmod(n, 2) # divmod返回n除以2的商和余数 print(e)1 # 低 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照