sqlserver中一个数字乘以一个小数得到的数字小数位数_百检网：实验记录、报告要保留几位小数？你是不是一直用错了？...

实验室如何保留有效数据的位数

1

报告的有效数字位数

报告分析结果有效数字位数&＃xff0c;应根据分析方法的精密度即标准差的大小决定。

通常可取四分之一个标准差的首数所在数位&＃xff0c;定为分析结果的尾数。

例如&＃xff1a;某一测定结果为25.352&＃xff0c;标准差为1.4&＃xff0c;四分之一标准差为0.35&＃xff0c;其首位有效数字所在数位是十分位&＃xff0c;即定为该结果的末位&＃xff0c;可报为25.4。

2

原始记录的有效数字

在记录原始数据开始过程中&＃xff0c;对任何一个有计算意义的数据都要审慎地估量&＃xff0c;正确地记载量值的有效位数。

例如&＃xff1a;50mL滴定管的最小分度值为0.1mL&＃xff0c;又因为允许增加一位估计数字&＃xff0c;可以记录到两位小数&＃xff0c;如12.34mL。这一量值表明十分位上的3是刻度指示值&＃xff0c;确切可信&＃xff1b;百分位上的4则是估计判读的&＃xff0c;是可疑数字&＃xff0c;并知其波动范围为0.02mL&＃xff0c;其相对误差为(0.02/12.34)×100%&＃61;0.16%。

若在原始记录中仅记为12.3mL&＃xff0c;则表示可能产生1.6%的相对误差。由于原始记录不合理致使数据的准确度下降一个数量级。

但也不可任意增加有效数字的位数。如前例记成12.340则是明显失真&＃xff0c;因为不可能估计出两位数字。原始记录的有效数字位数既不可少&＃xff0c;也不可多。

记取的原则是&＃xff1a;根据仪器、仪表指示的最小分度值如实记录并允许增记一位估计数字。

实验室通用的计量器具可记取的位数如下&＃xff1a;

——万分之一天平&＃xff1a;小数点后第四位即万分位。

——上皿天平&＃xff1a;小数点后第二位即百分位。

——分光光度计&＃xff1a;吸光值记到小数点后第三位即干分位。

——玻璃量器&＃xff1a;记取的有效数字位数须根据量器的允许误差和读数误差决定。

广告

分析化学实验(鲁润华)

作者&＃xff1a;鲁润华&＃xff0c;张春荣&＃xff0c;周文峰　主编

当当

3

有效数字概念

任何特定量的测量结果&＃xff0c;都是通过测量得到的赋予被测量的值&＃xff0c;也称为量值。

量值一般由一个数字乘以测量单位来表示特定量的大小。

由于不能人为地实现完善的测量过程&＃xff0c;所以测量结果不可避免地含有误差。为了表达测量结果的准确程度&＃xff0c;用有效数字表示特定量测量结果的数字部分。

4

有效数据字一般规定

表示测试结果的量纲及其有效数字位数&＃xff0c;应按照该分析方法中具体规定填报。

若无此规定时&＃xff0c;一般性原则是&＃xff1a;

一个数据中只准许末尾一个数字是估计(可疑)值&＃xff0c;其他各数字都是有效(可信)的&＃xff0c;依此决定整数及小数的位数。

因量纲的变化不作小数取位的硬性规定

5

有效数字的构成

有效数字由一位或多位“可靠数字”和一位“末位欠准数字”组成。

有效数字的有效位数是“可靠数字”和“末位欠准数字”的位数之和。

由于不同的具体测量条件下&＃xff0c;“末位欠准数字”的欠准程度不同&＃xff0c;所以原则上本标准不对修约间隔进行具体规定。

但在通常情况下&＃xff0c;分析领域的修约间隔为“末位欠准数字”的1个单位。

6

有效数字数位多少的作用

有效数字的有效位数的多少&＃xff0c;除了反映量值的大小之外&＃xff0c;在分析领域中还反映该数值的准确程度。

例如0.6705g草酸钠&＃xff0c;这一数值的可信数字截取在千分位上的0

在万分位的数字5是可疑的&＃xff0c;其真值处于0.6704g~0.6706g之间。

7

有效数字中的“0”

有效数字中的“0”是否计算为有效数字的有效位数&＃xff0c;要根据“0”的位置及其前后的数字状况而定。常见的有以下四种情况&＃xff1a;

1)位于非“0”数字之间的“0”&＃xff0c;如2.005&＃xff0c;1.025这两个有效数字中的三个“0”都应计算为有效数字的有效位数(简称有效位数)。

2)位于非“0”数字后面的一切“0”都应计算为有效位数(全整数尾部“0”除外)。如2.2500&＃xff0c;1.0250。

3)前面不具非零数字的“0”&＃xff0c;如0.0025中的三个“0”都不应计算为有效位数&＃xff0c;只起定位作用。一般可表示为2.5×10-3。

4)整数中后面的“0”&＃xff0c;很难判断是否有效数字。

例如1.5g也可表示成1500mg&＃xff0c;从表观上看&＃xff0c;同一个量值的有效数字位数却不同。

为了避免误解&＃xff0c;统一用指数形式表示&＃xff0c;上例可记为1.5×103mg&＃xff0c;表明是两位有效数字。

8

有效数字的运算规则

有效数字运算规则为了确保最终结果中只包含有效数字(定位“0”例外)&＃xff0c;有效数字运算要遵守下列规则&＃xff1a;

1)加减运算&＃xff1a;最终计算结果中保留的小数位数&＃xff0c;应与参加运算的有效数字中小数位数最少者相同。

2)乘除运算&＃xff1a;运算结果经修约后&＃xff0c;保留的有效数字位数应与参加运算的几个有效数字中有效位数最少者相同。

3)对数运算&＃xff1a;对数的有效数字位数应和原数(真数)的相同。

4)平方、立方、开方运算&＃xff1a;计算结果的有效数字位效应和原数的相同。

5)π、e和1/3等的有效位数&＃xff0c;须参照与之相关的数据决定保留的位数。

9

其他规则

来自一个正态总体的一组数据&＃xff0c;多于4个时&＃xff0c;其平均值的有效数字位数可比原数的增加一位。

用于表示方法或分析结果精密度的标准差&＃xff0c;其有效数字的位数一般只取一位&＃xff1b;当测定次数较多时可取两位&＃xff0c;且最多只能取两位。