Обработка результатов наблюдений. Третьяк Л.Н. - 107 стр.

      В окончательной записи погрешность измерения принято выражать
числом с одним или двумя значащими цифрами.
      Две значащие цифры приводят в случае выполнения точных
измерений.
      Эмпирически были установлены следующие правила округления
рассчитанного значения погрешности и полученного результата измерений:
      а) погрешность результата измерения указывается двумя значащими
цифрами, если первая из них равна 1 и 2, и одной, – если первая цифра равна
3 или более;
      б) результат измерения округляется до того же десятичного знака,
которым оканчивается округленное значение абсолютной погрешности. Если
десятичная дробь в числовом значении результата измерений оканчивается
нулями, то нули отбрасываются до того разряда, который соответствует
разряду числового значения погрешности;
      в) если цифра старшего из отбрасываемых разрядов меньше 5, то
остающиеся цифры в числе не изменяют. Если эта цифра равна или больше 5,
то последнюю оставляемую цифру увеличивают на единицу. Лишние цифры
в целых числах заменяют нулями, а в десятичных дробях отбрасывают.
Например, числовое значение результата измерения составляет 25,458 при
погрешности результата, выраженной пределами ± 0,02 ; округление
результата будет 25,46. Если пределы погрешности имеют ± 0,002 , то
числовое значение результата сохраняется полностью. Числовое значение
результата измерений 105553 получено с погрешностью ± 0,0005 ±0,0005. В
нем сохраняются четыре значащие цифры и округление, даст число 105600;
если числовое значение результата 105,553, то при тех же условиях
округление дает число 105,6. Или еще пример: Число 6783,6 округляют до
6784, число 5499,7 – до 5500, число 12,34501 – до 12,35;
      г) если отбрасываемая цифра равна пяти, а следующие за ней цифры
неизвестны (отсутствуют) или нули, то последнюю сохраняемую цифру
числа не изменяют, если она четная, и увеличивают на единицу, если она
нечетная. Число 105,5 при сохранении трех значащих цифр округляют до
106. Еще пример: Число 1234,50 округляют до 1234; число 5465,50 – до
5466; число 43210,500 – до 43210;
      д) округление производится лишь в окончательном ответе, а все
предварительные вычисления проводят с одним - двумя лишними знаками
(или числом разрядов, которые удается получить).
      Таким образом, при выполнении вычислений может быть оставлена
(как было сказано выше) одна сомнительная цифра, а в окончательном
результате, в соответствии со стандартом, оставлять в приближенном числе
только верные цифры.
      Если руководствоваться этими правилами округления, то количество
значащих цифр в числовом значении результата измерений дает возможность
ориентировочно судить о точности измерения.


                                                                       107