数值修约及计算规则精品文稿.ppt

《数值修约及计算规则精品文稿.ppt》由会员分享，可在线阅读，更多相关《数值修约及计算规则精品文稿.ppt（12页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、数值修约及计算规则第1页，本讲稿共12页 例如例如,用分析天平称用分析天平称NaCl1.2007g,可能可能有有0.0001g的误差的误差;用台秤称用台秤称1.20g,可能可能有有0.01g的误差。的误差。注意注意:数字数字0可以是测量得到的有效数可以是测量得到的有效数字字,但当但当0只用来定位时只用来定位时,就不能是有效就不能是有效数字数字,并且有效数字的位数与小数点的并且有效数字的位数与小数点的位置无关。位置无关。例如：例如：1.2007g 0.0012007g第2页，本讲稿共12页二二.数字修约数字修约 各测量值有效数字位数可能不同各测量值有效数字位数可能不同,因因 此计算前要先对各测量

2、值进行修约。此计算前要先对各测量值进行修约。应保留的有效数字位数确定之后应保留的有效数字位数确定之后,其其 余尾数一律舍弃的过程称为修约。余尾数一律舍弃的过程称为修约。修约应一次到位修约应一次到位,不得连续多次修约。不得连续多次修约。第3页，本讲稿共12页修约规则修约规则:为四舍六入五留双。例如为四舍六入五留双。例如,将将下列数据修约为两位有效数字下列数据修约为两位有效数字第4页，本讲稿共12页三三.有效数字的计算规则有效数字的计算规则 (1)进行数值加减时进行数值加减时,结果保留小数点结果保留小数点 后位数应与小数点位数最少者相后位数应与小数点位数最少者相 同。同。例如例如,0.0121+1

3、2.56+7.8432 可先修约后计算可先修约后计算,即即 0.01+12.56+7.84=20.41第5页，本讲稿共12页(2)进行数值乘除时进行数值乘除时,结果保留位数应与结果保留位数应与 有效数字位数最少者相同。有效数字位数最少者相同。例如例如,(0.014224.43305.84)/28.67 可先修约后计算可先修约后计算,(0.014224.4306)/28.7=3.69。第6页，本讲稿共12页(3)进行数值乘方或开方时进行数值乘方或开方时,结果有结果有 效数字位数不变。效数字位数不变。例如例如,6.542=42.8 第7页，本讲稿共12页(4)进行对数计算时进行对数计算时,对数尾数

4、的位数应对数尾数的位数应 与真数的有效数字位数相同。与真数的有效数字位数相同。例如：例如：第8页，本讲稿共12页(5)表示分析结果的精密度和准确度表示分析结果的精密度和准确度 时时,误差和偏差等只取一位或两误差和偏差等只取一位或两 位有效数字。位有效数字。第9页，本讲稿共12页(6)计算中涉及到常数计算中涉及到常数 以及非测量以及非测量 值值,如自然数、分数时如自然数、分数时,不考虑其有不考虑其有 效数字的位数效数字的位数,视为准确数值。视为准确数值。第10页，本讲稿共12页(7)为提高计算的准确性为提高计算的准确性,在计算过程在计算过程 中可暂时多保留一位有效数字中可暂时多保留一位有效数字,计计 算完后再修约算完后再修约.运用电子计算器运运用电子计算器运 算时算时,要对其运算结果进行修约要对其运算结果进行修约,保保 留适当的位数留适当的位数,不可将显示的全部不可将显示的全部 数字作为结果。数字作为结果。第11页，本讲稿共12页(8)若数据进行乘除运算时若数据进行乘除运算时,第一位数第一位数 字大于或等于字大于或等于8,其有效数字位数可其有效数字位数可 多算一位。多算一位。如如9.46可看做是四位有效数字可看做是四位有效数字.第12页，本讲稿共12页