耐特信计量检测服务平台_计量管理软件

快捷导航
计量基础
收藏本版 |订阅

计量基础 今日: 0|主题: 1927|排名: 2 

发新帖
打印 上一主题 下一主题

请教一个关于数值修约的问题...

[复制链接]
esky520 发布于: 2016-8-22 20:54 2891 次浏览 3 位用户参与讨论
跳转到指定楼层
如果规程要求±5%的误差,那么计算结果为5.123%要怎么修约???
如果规程要求±5.0%的误差,那么计算结果为5.123%要怎么修约???



如果规程要求重复性不超过1.5%,那计算结果为1.513%要怎么修约???




怎么判定他们的合格性


谢谢
回复

使用道具 举报

已有3人评论

沙发
57830716 发表于 2016-8-22 23:38:18
回复 1# yxd192

如果规程对修约间隔没有做明确规定,根据误差理论可做如下处理:

1、如果规程要求±5%误差,计算结果为5.123%,可按1%间隔修约,即修约为5%

2、如果规程要求±5.0%的误差,计算结果为5.123%,可按0.1%间隔修约,即修约为5.1%

3、如果规程要求重复性不超过1.5%,计算结果为1.513%,可按0.1%间隔修约,即修约为1.5%

以修约后的数据进行合格判定,如果测量的不确定度不大于允差绝对值的1/3,则修约后的数据小于等于最大允差则为合格,否则不合格。
回复 支持 反对

使用道具 举报

板凳
爱上阿南 发表于 2016-8-22 23:54:33
跟2#好好学习一下,说的很有道理。
回复 支持 反对

使用道具 举报

地板
spiegesq 发表于 2016-8-23 01:53:51
说的很好,如果测量不确定度超过1/3允差的话,还要考虑不确定区。
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册   

本版积分规则

QQ| 耐特信计量检测服务平台_计量管理软件  

Copyright © 2001-2016 Netson Inc.   All Rights Reserved.

Powered by Netson ( 粤ICP备14061212号-1 )

快速回复 返回顶部 返回列表