当前位置:首页>维修大全>综合>

浮点数的精度由什么决定(浮点数精度为什么取决于尾数)

浮点数的精度由什么决定(浮点数精度为什么取决于尾数)

更新时间:2024-08-06 20:59:27

浮点数的精度由什么决定

由这个浮点数在内存中的长度决定double是64位,占8字节,float32位,占4字节,所以double的精度比float高在一个浮点数里,由阶码和尾数2部分表示,与科学计数法类似,但是它的阶不是10,而是2,也就是说浮点数的表示是尾数*2^阶码阶码决定了浮点数的范围,尾数决定了浮点数的精度,尾数是永远在0~1之间的,假设一个浮点数的尾数是1101011,阶码是101,那么实际上表示的数就是0.1101011*2^101这里的数都是二进制的,要先转换成10进制,然后再求值去看下计算机组成原理吧..

更多栏目