编辑推荐
免费资料
免费领取
网校内部资料包
考试辅导
直播课
有效数字位数应以小数点后位数最少的数据为准,其余数据依次修约,然后进行计算。
在运算过程中,为减少舍入误差,其它数值的修约可以暂医`学教育网搜集整理时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。
例题:计算 0.0125+20.12+1.2364-2.25551
小数点后位数最少的数据是20.12,修约后计算:
0.012+20.12+1.236-2.256=19.112→19.11