当前位置:首页>维修大全>综合>

科学计数法怎么看精确数位(科学计数法精确到多少位如何确定)

科学计数法怎么看精确数位(科学计数法精确到多少位如何确定)

更新时间:2023-12-23 16:10:05

科学计数法怎么看精确数位

简单说说float型

浮点数的二进制分三个部分

符号位(1位)+指数位(8位)+有效数位(23位)

下面以0.234为例

符号位:正数为0,负数为1,所以第一位是0

指数位:

将原数据写成二进制的科学计数法的形式,即a x 2的n次方(n可正可负),把n+127所得十进制结果转换成八位二进制,此即为指数位。

0.234=1.1101010x2的-1次方,-1+127再转换成二进制为0111 1110

故0.234的指数位为0111 1110

有效数位:

延续上个步骤将科学计数法形式中,小数点后面的数照搬即可(超出23位的丢弃,不足23位的补0,注意是低位补0)

因此0.234的有效数位是1101010 00000000 00000000

所以0.234的二进制表示:

0 01111110 1101010 00000000 00000000

double型与此类似,还有无穷大无穷小的表示,可以自己搜一下。

更多栏目