1.6 数据处理
1.6.1 有效数字
1.6.1.1 有效数字的意义
有效数字用于表示测量结果,指测量中实际能测得的数字,即表示数字的有效意义。有效数字与通常数学上的数值在概念上是不同的。由有效数字构成的数值(如测定值),其位数反映了计量器具或仪器的精密度和准确度。例如,34.5、34.50和34.500在数学上都视为同一数值,如用于表示测定值,则其所反映的测量结果的准确程度是不同的。一个由有效数字构成的数值,其倒数第二位上的数字应该是可靠的,或为确定的,只有末位数字是可疑的或为不确定的。因此,有效数字是由全部确定数字和一位不确定数字构成的,是指在分析和测量中所能得到的有实际意义的数字。
测量结果的记录、运算和报告,必须使用有效数字。对有效数字的位数不能任意增删。
由有效数字构成的测定值必然是近似值。因此,测定值的运算应按照近似计算规则进行。
数字“0”,当它用于指示小数点的位置,而与测量的准确程度无关,不是有效数字;当它用于与测量准确度有关的数值大小时,即为有效数字。这与“0”在数值中的位置有关。
①第一个非零数字前的“0”不是有效数字,例如:
0.0398 三位有效数字
0.008 一位有效数字
②非零数字中的“0”是有效数字,例如:
3.0098 五位有效数字
5301 四位有效数字
③小数中最后一个非零数字后的“0”是有效数字,例如:
3.9800 五位有效数字
0.390% 三位有效数字
④以“0”结尾的整数,有效数字的位数难以判断,例如:39800可能是三位、四位甚至五位有效数字。在此情况下,应根据测定值的准确程度改写为指数形式,例如:
3.98×104 三位有效数字
3.9800×104 五位有效数字
1.6.1.2 测量数据的有效数字记数规则
(1)记录测量数据时,只保留一位可疑数字。
一个分析结果有效数字的位数,主要取决于原始数据的正确记录和数值的正确计算。在记录测量值时,要同时考虑到计量器具的精密度和准确度,以及测量仪器本身的误差。
当用检定合格的计量器具称量物质或量取溶液时,有效数字可以记录到其最小分度值,最多保留一位不确定数字。以实验室最常用的计量器具为例:
①最小分度值为0.1mg的分析天平称量物质时,有效数字可以记录到小数点第四位。如1.3485g,此时有效数字为5位;称取0.8642g,有效数字则为4位。
②用玻璃量器量取溶液体积的有效数字位数是根据量器的容量允许差和读数误差来确定的。如单位线A级50mL容量瓶,准确容积为50.00mL;单位线A级10mL移液管,准确容积为10.00mL,有效数字均为4位;用有分度标记的移液管或滴定管量取溶液时,读数的有效位数可达其最小分度后一位,保留一位不确定数字。
③分光光度计最小分度值为0.005,因此吸光度一般可记到小数点后第三位,有效数字位数最多只有三位。
④带有计算机处理系统的分析仪器,往往根据计算机自身的设定,打印或显示结果,可以有很多位数,但这并不增加仪器的精度和可读的有效位数。
⑤在一系列操作中,使用多种计量仪器时,有效数字以最少的一种计量仪器的位数表示。
(2)测量结果的有效数字所能达到的位数不能超过方法检出限的有效数字所能达到的位数。例如,一个方法的最低检出浓度为0.02mg/L,则分析结果报出0.088mg/L就不合理,应报0.09mg/L。
(3)在数值计算中,当有效数字位数确定之后,其余数字应按修约规则一律舍去。
(4)在数值计算中,某些倍数、分数不连续物理量的数目,以及不经测量而完全根据理论计算或定义得到的数值,其有效数字的位数可视为无限。这类数值在计算中需要几位就可以写几位。
(5)表示精密度通常只取一位有效数字。测定次数很多时,方可取两位有效数字,且最多只取两位。
1.6.2 有效数字修约及计算规则
1.6.2.1 有效数字的修约
测量值的有效数字位数确定后,应将它们后面多余的舍去,舍去多余数字的过程称为数字修约。各种分析、计算的数值需修约时,应按《数值修约规则》(GB 8170—2008)进行数值修约。
(1)确定修约位数的表达方式
①指定数位
a.指定修约间隔为10-n(n为正整数),或指明数值修约到n位小数。
b.指定修约间隔为1,或指明数值修约到个数位。
c.指定修约间隔为10n,或指明数值修约到10n数位(n为正整数),或指明将数值修约到“十”“百”“千”……数位。
②指定将数值修约成n位有效位数。
(2)取舍规则 各种测量、计算数据需要修约时,应按照“四舍六入五考虑,五后非零则进一,五后皆零视奇偶,五前为偶应舍去,五前为奇则进一”的原则取舍,即:
①拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。
例如,如将12.1498修约到一位小数,得12.1,修约成两位有效数字,得12。
②拟舍弃数字的最左一位数字大于5或虽等于5,而后并非全部为0的数字时,则进1,即保留的末尾数字加1。
例如,将1268修约到百位,得13×102。将10.502修约到个位,得11。
③拟舍弃数字的最左一位数字为5,而右面无数字或皆为零时,若保留的末位数为奇数,则进1,为偶数则舍去。
例如,1.050和0.350的修约间隔为0.1(或10-1),则其修约值分别为1.0和0.4。
如2500和3500的修约间隔指定为1000(或103),其修约值分别为2×103和4×103。
又如将0.0325修约成两位有效数字,得0.032,将32500修约成两位有效数字,得32×103。
1.6.2.2 有效数字的计算规则
在加减法的计算中,几个数相加或相减,最后结果的有效数字位数自左起不超过参加计算的有效数字中第一个出现的可疑数字。如在小数的加减计算中,结果所保留的小数点后的位数与各数中小数点后位数最少者相同。在实际运算中,保留的位数比各数值中小数点后位数最少者多留一位小数,而计算结果则按数值修约规则处理。例如:
最后计算结果只保留一位小数,得76.7。
几个数相乘或相除时,最后结果的有效数字位数要与参加计算的各数值中有效数字位数最少者相同。在实际运算过程中,先将各数值修约至比有效数字位数最少者多保留一位有效数字,再将计算结果按数值修约规则处理。例如:
最后的计算结果用三位有效数字表示为30.9。
在当前普遍使用计算器的情况下,为减少计算误差,可在运算过程中适当保留较多的数字,对中间结果不作修约,只将结果修约到所需位数。