字词 | 运算中的舍入 |
类别 | 中英文字词句释义及详细解析 |
释义 | 运算中的舍入 1.单一运算 单一运算指数字在算式中只参与一次运算。 (1)当几个数作加减运算时,在各数中,以小数位数最少的为准,其余各数均凑成比该数多一位;最后结果的位数与位数最少的相同。 如:60.4+2.02+0.222+0.0467→60.4+2.02+0.22+0.05=62.69≈62.7 (2)当几个数作乘除运算时,在各数中,以有效数位最少的为准,其余各数均凑成比该数有效数位多一位;最后结果的数位与有效数位最少的相同。 如:603.21×0.32/4.011→603×0.32/4.01=48.1≈48 (3)将数平方或开方后,结果有效数位与原数相同。 如:6962=4844×102≈484×103 2.复合运算 复合运算指数字运算有几个步骤。每个步骤为单一运算。 对于复合运算,中间步骤所得数字的位数应比单一运算所得最后结果位数多取1-2位(如果是运算量大而又要求高的精密测量,可酌情多取),以保证最后结果不受运算过程的影响。 【参考文献】: [1]王立吉,计量学基础,中国计量出版社,1988。 [2]BIPM、IEC、IFCC,IUPAC,IUPAP,OIML,Guide to the Expression of Uncertainty in Measurement, ISO,1993. [3]刘智敏,不确定度原理,中国计量出版社,1993。 [4]刘智敏,误差分布论,原子能出版社,1988。 [5]刘智敏,误差与数据处理,原子能出版社,1983。 [6]Liu Zhimin(刘智敏),Measurement Uncertainty and Its Correlation Combination,Proceeding of ISEM, 1993. [7]国家计量总局量值传递处编,计量技术考核纲要,计量出版社,1981。 [8]国家技术监督局审定,刘智敏等编审,全国计量检定人员考核统一试题集第六分册三,误差及数据处理,陕西科学技术出版社,1990。 |
随便看 |
|
文网收录3541549条中英文词条,其功能与新华字典、现代汉语词典、牛津高阶英汉词典等各类中英文词典类似,基本涵盖了全部常用中英文字词句的读音、释义及用法,是语言学习和写作的有利工具。