浮点类型

来自CloudWiki
Chuliu讨论 | 贡献2020年9月22日 (二) 01:41的版本
跳转至: 导航搜索

浮点类型


与数学中实数的概念一致
 -带有小数点及小数的数字
 -浮点数取值范围和小数精度都存在限制,但常规计算可忽略
 -取值范围数量级约-10308至10308精度数昙纲1-16
 浮点数间运算存在不确定尾数,不是bug
 >>> 0.1 + 0.3
 0.4
 >>>0.1 + 0.2
 0.3008e8eee8o808884
 
 0.1  53位二进制表示小数,约10的16次方
 1100110011001100110811018(二进制表示)
 0.10080e8eee0ee000055511151231257827021181583404541015625(十进制表示)
 #二进制表示小数,可以无限接近,但不完全相同
 0.1+0.2
 结果无限接近0.3,但可能存在尾数
 浮点数间运算存在不确定尾数
 >>>0.1 + 0.2 == 0.3
 False
 >>>2.1 + 0.2
 True
浮点数间运算存在不确定尾数
 -round(x, d):对x四舍五入,d是小数截取位数
 -浮点数间运算及比较用round()函数辅助
 -不确定尾数一般发生在10"°左右,round()十分有