ВУЗ:
Составители:
Глава 4. Погрешности измерений и обработка результатов
98
В окончательной записи погрешность измерения принято
выражать числом с одним или двумя значащими цифрами.
Установлены следующие правила округления рассчитанного значения
погрешности и полученного результата измерения [4].
1.
Погрешность результата измерения указывается двумя
значащими цифрами, если первая из них равна 1 или 2, и
одной – если первая цифра 3 или более.
2.
Результат измерения округляется до того же десятичного
знака, которым оканчивается округленное значение
абсолютной погрешности. Если десятичная дробь в числовом
значении результата измерений оканчивается нулями, то нули
отбрасываются до того разряда, который соответствует
разряду числового значения погрешности.
3.
Если цифра старшего из отбрасываемых разрядов меньше 5, то
остальные цифры числа не изменяются. Лишние цифры в
целых числах заменяются нулями, а в десятичных дробях
отбрасываются.
4.
Если цифра старшего из отбрасываемых разрядов больше или
равна 5, но за ней следуют отличные от нуля цифры, то
последнюю оставляемую цифру увеличивают на единицу.
5.
Если отбрасываемая цифра равна 5, а следующие за ней
цифры неизвестны или нули, то последнюю сохраняемую
цифру числа не изменяют, если она четная, и увеличивают на
единицу, если она нечетная.
6.
Округление производится лишь в окончательном ответе, а все
предварительные вычисления проводят с одним-двумя
лишними знаками.
Страницы
- « первая
- ‹ предыдущая
- …
- 98
- 99
- 100
- 101
- 102
- …
- следующая ›
- последняя »
