简介:摘要:随着科学技术的飞速提高,计量器具的更新换代速度也加快,计量器具的功能更加丰富,使用更加方便,数据也越来越准确。在计量器具计量和检定的过程中,数据的处理是十分重要的一环,如果数据处理有误差,计量器具的计量准确性会受到很大影响,所以计量工作中务必需要重视检定结果的处理。
简介:对实验测定和计算所得的各种数值常常要进行修约,不少人在修约时简单地采用纯数字的四舍五入方法,这是不正确的。应按照GB8170-87《数值修约规则》修约,其简明口诀为“4舍6入5看齐,5后有数进上进,尾数为零向左看,左数奇进偶舍弃”。例如:修约到1位小数,12.149修约为12.1;12.169修约为12.2;12.150修约为12.2。
简介:对实验测定和计算所得的各种数值常常要进行修约,不少人在修约时简单地采用纯数字的四舍五入方法,这是不正确的。应按照GB8170-87《数值修约规则》修约,其简明口诀为“4舍6入5看齐,5后有数进上进,尾数为零向左看,左数奇进偶舍弃”。
简介:本文介绍了质检中心物理室所使用的数值修约规则在鄂钢营销系统质检模块中的应用。该规则以函数的形式,用自动化方式代替了手工操作,所得数据既准确又快,从而有效地提高了工作效率。