Введение в лабораторный практикум по курсу общей физики. Жукова И.С - 36 стр.

     § 5. Точность вычислений

      Точность    вычислений      определяется  погрешностью
измерений. Не имеет смысла вычислять какую–либо величину до
пятого знака после запятой, если погрешность измерений такова,
что неуверенно определяется ее третий знак.
      Чтобы погрешностью вычислений можно было пренебречь,
она должна быть на порядок (то есть в 10 раз) меньше
погрешности наименее точно измеряемой величины.

       Пример. Модуль Юнга по изгибу стержня вычисляется по
формуле E = PL3 / 4ab3·h. Анализ исходных данных показывает,
как правило, что с наибольшей относительной погрешностью
измеряется стрела прогиба h. Так как ΔE/E > Δh/ h, то допускаемая
относительная погрешность вычислений ΔE выч /E ≅ 0,1 Δh/h.
Для стали      E ≅ 2·104 кГс/мм2 , поэтому при Δh/h =·10-2
ΔEвыч. ≅ 10 кГс/мм2. Это значит, что вычисления Е целесообразно
проводить лишь с точностью до четвертой значащей цифры.
       Обычно нас интересует лишь порядок величины
погрешностей, поэтому последние рекомендуется вычислять лишь
до второй значащей цифры, а затем округлять результат до одной
значащей цифры.
       Приводя значение измеренной Вами величины, проверьте,
согласуется ли порядок приведенных значащих цифр с порядком
погрешности.
       Порядок последней значащей цифры измеренной
величины и порядок погрешности должны быть одинаковы!
       Запись Е = (18451,27 ± 20) 107 Па неграмотна. Величина
ошибки свидетельствует о том, что неуверенно определяется уже
четвертый знак, поэтому результат должен быть соответственно
округлен:
               Е = (18450 ± 20) 107 Па.




36