有效数字与数字修约

目录

1. 目的 3

2. 范围 3

3. 引言、定义和缩略语 3

4. 程序 3

4.1 原始数据的读取和修约 3

4.2 有效数字的运算规则 4

4.3 数据修约规则 4

4.4 注意事项 5

4.5 实例 5

5. 登记和归档 6

6. 职责 6

7. 培训 6

目的

本条SOP的目的是保证正确记录和处理原始数据。

范围

本条SOP适用于本公司所有进行数据读取、数据记录和数据处理的员工。

引言、定义和缩略语

有效数字是指实际能够测量到的数字，它由可靠的数字加上一位估计的、不确定的数字组成。

有效数字的位数是指从该数左方第一个非零数字算起到最末一个数字（包括零）的个数，不取决于小数点的位置。即第一个非零数字前的零不是有效数字；第一个非零数字后开始的所有数字（包括零）都是有效数字。例如，0.568和0.0568都有三位有效数字；2.70有三位有效数字，而2.700则有四位有效数字。

有效数字位数的多少，表明了测量所能达到的准确程度，这与所被测物和测量工具的精度有关，即当被测物和测量工具被选定后，测量值的有效数字位数就已经确定了。例如，测得物体的长度为3.36cm，有三位有效数字，若使用千分尺测量，应为3.3600cm，有五位有效数字。

程序

4.1 原始数据的读取

4.1.1 读取至测量工具的最小单位。如有必要或需要进一步计算，可再向下估读一位。即读取测量值时应确定测量工具的精确度。例如，50ml和250ml容量瓶的精度分别为0.01ml和0.1ml，所配溶液体积应分别为50.00ml和250.0ml。

4.1.2 对于带数字显示或打印机的仪器设备，有效数字直接为显示值或打印值，并与仪器设备和试验方法保持一致。

4.2 有效数字的运算规则

在计算过程中，有效数字的确定遵循以下标准：

4.2.1 加减法：按小数点后位数最少的那个数确定。

4.2.2 乘除法：按有效数字最少的那个数确定。

4.2.3 对于一些常数，如水的密度、折光系数和法拉第常数等，应根据具体要求确定其有效数字。

4.2.4 计算结果的有效数字位数不由数学或物理常数来确定，数学或物理常数的有效数字位数可任意选取。一般选取的位数应比测量数据有效数字位数最少的多一位。

例如：2.5×π=2.5×3.14

1.023×π=1.023×3.1415

2.5×1.023×π=2.5×1.0×3.14

4.2.5 如果使用计算机软件（Excel等）等进行计算，可先计算后修约，即计算过程中保留所有原数据的有效数字，计算完毕后将结果一次性修约至需要的有效数字位数，也可采用软件的数据修约规则代替上述修约规则。

4.3 数据修约规则

按照中华人民共和国国家标准《数字修约规则与极限数值的表示和判断》（GB 8170-2008）规定，数据修约依照“一次到位，四舍六入五成双”规则。具体如下：

当保留N位有效数字，若第N+1位数字≤4，舍去。

当保留N位有效数字，若第N+1位数字≥6，则第N位数字进1。

当保留N位有效数字，若第N+1位数字=5，且后面的数字≠0，则第N位数字进1；若后面的数字=0，则第N位数字若为偶数时就舍去后面的数字，若为奇数时就进1。

例如，2.541修约为2.5，2.462修约为2.5，2.453修约为2.5，2.450修约为2.4，2.550修约为2.6。

4.4 注意事项

4.4.1 测定的数据经过计算后其有效数字位数应与输入值一致或多一位，尽管最后一位数字是可疑的。

4.4.2 数据处理时，一旦有效数字位数确定，最后一位有效数字后的数字应被修约，修约仅需考虑最后一位有效数字后一位的数字。

例如：2.154546保留三位有效数字

正确修约：2.154546→2.15

错误修约：2.154546→2.15455→2.1546→2.155→2.16。

4.4.3 单位转换时，为了使有效数字的位数不变，尽量使用科学计数法。例如，70cm可记为700mm，有效数字的位数改变了，可用7.0×10cm和7.0×102mm表示，不改变有效数字的位数。此外，数字过大或过小时，也应尽量使用科学计数法表示。

4.5 实例

4.5.1 经计算得到某物重量为4.3415mg，不确定度为2.0478mg。首先，将不确定度修约为两位有效数字2.0mg（注意，非零数字后的零为有效数字），则重量值修约为4.3mg。注意修约后该值及不确定度的小数点后位数应一致。故修约结果为4.3mg±2.0mg。

4.5.2 经计算得到某容量瓶容积为2000.714431ml，不确定度为0.084024ml。首先，将不确定度修约为两位有效数字即0.084ml，则容积值修约为2000.714ml。注意修约后该值及不确定度的小数点后位数应一致。故修约结果为2000.714ml±0.084ml。

4.5.3 经计算得到某物重量为285.41mg，不确定度为102.98mg。由于其不确定度大，首先，将该值及不确定度转换为较大的常用单位，即0.28541g和0.10298g，然后将不确定度修约为两位有效数字0.10g（注意，非零数字后的零为有效数字），则重量值修约为0.29g。注意修约后该值及不确定度的小数点后位数应一致。故修约结果为0.29g±0.10g。

4.5.4 经计算得到某物重量为285.41mg，不确定度为33.4875mg。首先，将不确定度修约为两位有效数字33mg，则重量值修约为285mg。注意修约后该值及不确定度的小数点后位数应一致。故修约结果为285mg±33mg。

登记和归档

无。

职责

数据读取、数据记录和数据处理的员工的职责：

· 按照本条SOP的规定读取和处理数据。

培训

数据读取、数据记录和数据处理的员工：

· 阅读本条SOP。

本文来源：https://www.2haoxitong.net/k/doc/f5a3fb59905f804d2b160b4e767f5acfa1c78382.html