浮点类型

来自CloudWiki
Chuliu讨论 | 贡献2020年9月22日 (二) 01:38的版本 (创建页面,内容为“'''浮点类型''' '''与数学中实数的概念一致''' -带有小数点及小数的数字 -浮点数取值范围和小数精度都存在限制,但常规…”)
(差异) ←上一版本 | 最后版本 (差异) | 下一版本→ (差异)
跳转至: 导航搜索

浮点类型


与数学中实数的概念一致
 -带有小数点及小数的数字
 -浮点数取值范围和小数精度都存在限制,但常规计算可忽略
 -取值范围数量级约-10308至10308精度数昙纲1-16
 浮点数间运算存在不确定尾数,不是bug
 >>> 0.1 + 0.3
 0.4
 >>>0.1 + 0.2
 0.3008e8eee8o808884
 
 0.1  53位二进制表示小数,约10的16次方
 1100110011001100110811018(二进制表示)
 0.10080e8eee0ee000055511151231257827021181583404541015625(十进制表示)
 #二进制表示小数,可以无限接近,但不完全相同
 0.1+0.2
 结果无限接近0.3,但可能存在尾数
 浮点数间运算存在不确定尾数
 >>>0.1 + 0.2 == 0.3
 False