“浮点类型”的版本间的差异
来自CloudWiki
（创建页面，内容为“'''浮点类型''' '''与数学中实数的概念一致''' -带有小数点及小数的数字 -浮点数取值范围和小数精度都存在限制，但常规…”） |
|||
| 第23行： | 第23行： | ||
>>>0.1 + 0.2 == 0.3 | >>>0.1 + 0.2 == 0.3 | ||
False | False | ||
| + | >>>2.1 + 0.2 | ||
| + | True | ||
| + | |||
| + | '''浮点数间运算存在不确定尾数''' | ||
| + | -round(x, d):对x四舍五入，d是小数截取位数 | ||
| + | -浮点数间运算及比较用round()函数辅助 | ||
| + | -不确定尾数一般发生在10"°左右，round()十分有 | ||
2020年9月22日 (二) 01:41的版本
浮点类型
与数学中实数的概念一致 -带有小数点及小数的数字 -浮点数取值范围和小数精度都存在限制，但常规计算可忽略 -取值范围数量级约-10308至10308精度数昙纲1-16
浮点数间运算存在不确定尾数，不是bug >>> 0.1 + 0.3 0.4 >>>0.1 + 0.2 0.3008e8eee8o808884 0.1 53位二进制表示小数，约10的16次方 1100110011001100110811018(二进制表示) 0.10080e8eee0ee000055511151231257827021181583404541015625(十进制表示) #二进制表示小数，可以无限接近，但不完全相同 0.1+0.2 结果无限接近0.3，但可能存在尾数
浮点数间运算存在不确定尾数 >>>0.1 + 0.2 == 0.3 False >>>2.1 + 0.2 True
浮点数间运算存在不确定尾数 -round(x, d):对x四舍五入，d是小数截取位数 -浮点数间运算及比较用round()函数辅助 -不确定尾数一般发生在10"°左右，round()十分有
