浮点类型
来自CloudWiki
浮点类型
与数学中实数的概念一致 -带有小数点及小数的数字 -浮点数取值范围和小数精度都存在限制,但常规计算可忽略 -取值范围数量级约-10308至10308精度数昙纲1-16
浮点数间运算存在不确定尾数,不是bug >>> 0.1 + 0.3 0.4 >>>0.1 + 0.2 0.3008e8eee8o808884 0.1 53位二进制表示小数,约10的16次方 1100110011001100110811018(二进制表示) 0.10080e8eee0ee000055511151231257827021181583404541015625(十进制表示) #二进制表示小数,可以无限接近,但不完全相同 0.1+0.2 结果无限接近0.3,但可能存在尾数
浮点数间运算存在不确定尾数 >>>0.1 + 0.2 == 0.3 False >>>2.1 + 0.2 True
浮点数间运算存在不确定尾数 -round(x, d):对x四舍五入,d是小数截取位数 -浮点数间运算及比较用round()函数辅助 -不确定尾数一般发生在10"°左右,round()十分有
浮点数可以采用科学计数法表示 -使用字母e或E作为幂的符号,以10为基数,格式如下: <a>e表示a*10^b -例如∶4.3e-3值为0.00439.6E5值为960000.0