当前位置:首页>维修大全>综合>

圆整值计算公式

圆整值计算公式

更新时间:2023-09-14 11:47:34

圆整值计算公式

1、我们按一系列数据绘制一条曲线(或直线)时,将偏离该轨迹的数据坐标修正到该轨迹上,以使线条平滑。这就是数据圆整的一种形式。

2、14.6若按四舍五入法圆整则为15,但在物理测量上,若测量为14.2mm,为减小误差,有时会圆整到15mm,视测量要求来定。

3、设计压力容器时,已知钢材的设计厚度,要确定钢材的名义厚度,这就要把设计厚度进行圆整,使得名义厚度与钢材标准厚度相符。比如设计厚度为14.4mm,而大于14.4mm的钢材标准厚度为15mm,就要把14.4mm向上圆整到15mm,这个圆整后的厚度也就是钢材的名义厚度。

4、在EXCEL计算公式中:ROUND函数

用途:按指定位数四舍五入某个数字;

语法:ROUND(number,num_digits);

参数:Number是需要四舍五入的数字;Num_digits为指定的位数,Number按此位数进行处理;

注意:如果num_digits大于0,则四舍五入到指定的小数位;如果num_digits等于0,则四舍五入到最接近的整数;如果num_digits小于0,则在小数点左侧按指定位数四舍五入;

实例:如果A1=65.25,则公式“=ROUND(A1,1)”返回65.3;=ROUND(82.149,2)返回82.15;=ROUND(21.5,-1)返回20;

ROUNDDOWN :向下圆整

实例:如果A1=65.251,则公式“=ROUNDDOWN(A1,0)”返回65;=ROUNDDOWN(A1,2)返回65.25;=ROUNDDOWN(3.14159,3)返回3.141;=ROUNDDOWN(-3.14159,1)返回-3.1;=ROUNDDOWN(31415.92654,-2)返回31400。

ROUNDUP:向上圆整

实例:如果A1=65.251,则公式“=ROUNDUP(A1,0)”返回66;=ROUNDUP(A1,1)返回65.3;=ROUNDUP(A1,2)返回65.26;=ROUNDUP(-3.14159,1)返回-3.2;=ROUNDUP(31415.92654,-2)返回31500。

5、matlab中也存在圆整误差

如sin(pi),pi在计算机运算中会先转换为二进制数,导致pi的实际精度降低。故而运算后sin(pi)并不是等于0,这个问题可以通过比较结果与0相减后的绝对值和一个极小值比较来解决

更多栏目