《数值修约及格拉布斯准则.pptx》由会员分享,可在线阅读,更多相关《数值修约及格拉布斯准则.pptx(14页珍藏版)》请在得力文库 - 分享文档赚钱的网站上搜索。
1、数值修约与格拉布斯准则一.数值修约定义:在进行具体的数字运算前,通过省略原数值的最后若干位数字,调整保留的末位数字,使最后所得到的值最接近原数值的过程称为数值修约。二.修约方法:四舍五入、四舍六入五成双三.四舍五入法 修约规则1.在需要修约的位数后一位,逢五就进,逢四就舍。如将以下数字修约到小数点两位,结果如下:3.进行数值修约时,应一次性修约到指定位数。不可进行数次修约。如 将以下数字修约到个位:一步修约11.47 11 而不是 11.47 11.5 12 一步修约11.99 12 而不是 11.99 12.0 12四.四舍六入五成双1.四舍五入法要求逢五就进,必然会造成测试结果误 偏大,为
2、此需要采用四舍六入五成双的方法2.修约规则:1).当需要修约的位数的后一位小于等于4,直接舍去。如将以下数字修约到两位:12.443 12.44 12.341 12.34 2).当需要修约的位数的后一位小数大于等于6时,需要直接舍去并向前进一。如将以下数字修约到一位小数:3).当需要修约的位数后一位数字为5时,需要视具体情况而定:A.当5 后面有不为0的数字时,直接在修约数字上进一并将后面数字舍弃。如:B.当5后面的数字为0时,若需要修约的数字为奇数,则需要将5舍弃后,直接进一如:C.当5后面的数字为0,若需要修约的数字为偶数时,则将5 舍弃后,无需进一。如:五.格拉布斯准则 1.概述 一组测
3、量数据中,如果个别值偏离平均值比较远,则将此测量值称之为“可疑值”.如果用统计方法如格拉布斯准则进行判断,则可以将可疑值剔除而不参与平均值的计算 2.方法运用(举例说明)测量数据10个:8.2 5.4 14.0 7.3 4.7 9.0 6.5 10.1 7.7 6.0 要求计算平均值和标准差A.将数据按照顺序排列:4.7 5.4 6.0 6.5 7.3 7.7 8.2 9.0 10.1 14.0 B.根据初步判断,可疑值为 4.7 或C.计算平均值和标准差(要求包含所有测量值)平均值:标准差:D.计算偏离值(测量值与平均值之差)平均值-最小值=3.19 最大值-平均值E.确定可疑值:与最小值相比较,最大值为可疑值F.计算:Gi=(Xi-x)/S (其中:i是可疑值的序列号码)G10=2.260 G.定检出水平a:通常H.查格拉布斯表获得临界值:根据p值和测量次数n(n=10),可知临界值 I.比较 G10和临界值 G G10 GNote:判断是否为异常值需要剔除:当G10 G 为异常值,需要剔除J.余下数据考虑:余下的9个数据可以按照上述方法确认是否为可疑值而需要剔除。The End