- · 《分析试验室》栏目设置[09/07]
- · 《分析试验室》数据库收[09/07]
- · 《分析试验室》收稿方向[09/07]
- · 《分析试验室》投稿方式[09/07]
- · 《分析试验室》征稿要求[09/07]
- · 《分析试验室》刊物宗旨[09/07]
实验室误差分析大全,经典干货!(6)
作者:网站采编关键词:
摘要:五 、加减乘除运算规则 5.1加减法运算规则 在参与运算的各数中,以小数点后位数最少的的为准,其余各数均修约成比位数最少的要多一位,最终结果与位
5.1加减法运算规则
在参与运算的各数中,以小数点后位数最少的的为准,其余各数均修约成比位数最少的要多一位,最终结果与位数最少的相一致。(与小数点位数有关)
例题1:
12.455 + 23.1 +14.345
=12.46 + 23.1 +14.34
=49.90 第17页
≈49.9
例题2:
2.155 + 0.0012 +10.445 + 25.1
=2.16 + 0.00 +10.44 + 25.1
=37.70
≈37.7
例题3:
1.000 + 0.125 +9.555 + 0.1
=1.00 + 0.12 +9.56 + 0.1
=10.78
≈10.8
例题4:
0.999 + 1.0 +14.999 + 24.450
=1.00+ 1.0 + 15.00+ 24.45
=41.45
≈41.4
例题5:
0.1 + 10.515 +0.001 + 10.000
=0.1 + 10.52 +0.00 + 10.00
=26.62
≈26.6
5.2 乘除(乘方、开方)法
在参与运算的各数中,以有效位数最少的为准,其余各数均修约成比有效位数最少的要多一位,最终结果与有效位数最少的相一致。(与有效位数有关)
例题1:
10.54 × 1.001 ×0.10
=10.5 × 1.00 ×0.10
=1.05
≈1.0
例题2:
0.1 × 1.00 × 0.101× 10.145
=0.1 × 1.0 × 0.10× 10
=0.10
≈ 0.1
例题3:
0.999 × 1.00 ×10.04 × 0.0010
=1.00 ×1.00 × 10.0× 0.0010
=0.0100
=0.010
例题4:
2.24 × 0.5 × 0.554× 0.5451
=2.2 × 0.5 × 0.55×0.55
=0.33
≈ 0.3 第19页
例题5:
2.5 × 2.451 × 2.255
=2.5 × 2.45 × 2.26
=13.8
≈ 14
文章来源:《分析试验室》 网址: http://www.fxsys.cn/zonghexinwen/2020/0917/389.html