AGI Hunt· Franc0Fernand0·· 3 小时前AI 评分38
Polymathic Engineer 第 195 期:浮点数为何存不下 0.2,IEEE 754 从二进制到舍入的原理拆解
浮点数为何存不下 0.2:IEEE 754 从二进制到舍入的原理拆解
AI 导读
计算机的二进制只能精确表示「整数×2 的幂」,0.2 展开成二进制是 0.00110011… 无限循环,永远存不下精确值,只能在有限位数处截断舍入。IEEE 754 浮点数由符号位、指数和尾数三部分组成,尾数前有一个隐藏的 1,指数负责扩大表示范围,尾数决定有多少位数字可信。
来源:AGI Hunt · agihunt.info