浮点类型

来自CloudWiki
Chuliu讨论 | 贡献2020年9月22日 (二) 01:43的版本
(差异) ←上一版本 | 最后版本 (差异) | 下一版本→ (差异)
跳转至: 导航搜索

浮点类型


与数学中实数的概念一致
 -带有小数点及小数的数字
 -浮点数取值范围和小数精度都存在限制,但常规计算可忽略
 -取值范围数量级约-10308至10308精度数昙纲1-16
 浮点数间运算存在不确定尾数,不是bug
 >>> 0.1 + 0.3
 0.4
 >>>0.1 + 0.2
 0.3008e8eee8o808884
 
 0.1  53位二进制表示小数,约10的16次方
 1100110011001100110811018(二进制表示)
 0.10080e8eee0ee000055511151231257827021181583404541015625(十进制表示)
 #二进制表示小数,可以无限接近,但不完全相同
 0.1+0.2
 结果无限接近0.3,但可能存在尾数
 浮点数间运算存在不确定尾数
 >>>0.1 + 0.2 == 0.3
 False
 >>>2.1 + 0.2
 True
浮点数间运算存在不确定尾数
 -round(x, d):对x四舍五入,d是小数截取位数
 -浮点数间运算及比较用round()函数辅助
 -不确定尾数一般发生在10"°左右,round()十分有
浮点数可以采用科学计数法表示
 -使用字母e或E作为幂的符号,以10为基数,格式如下:
 <a>e表示a*10^b
 -例如∶4.3e-3值为0.00439.6E5值为960000.0