Математическая обработка результатов химического эксперимента. Улахович Н.А - 51 стр.

UptoLike

51
Значимость суммы определяется значимостью числа 1,00×10
-5
,
имеющего наименьшее количество десятичных знаков.
Умножение и деление. Обычно для оценки значимости произведения
или частного пользуются следующим правилом: значимость произведения
или частного определяется значимостью сомножителя с наименьшим числом
значащих цифр. Например, перемножение чисел 2,5 и 3,75 дает произведение,
содержащее две значащие цифры, т.е. 9,4, а не 9,375, как получается при
перемножении вручную или с помощью калькулятора.
Более строгий подход основан на сравнении относительных
недостоверностей сомножителей и произведения (или частного).
Относительная недостоверность произведения (или частного) равна сумме
относительных недостоверностей сомножителей. Например, нужно найти
частное 92:41,63. Относительные недостоверности составляют
1:92 = 0,0109 0,01 и 0,01:41,63 = 0,00024 0,0002 .
Следовательно, относительная недостоверность частного равна
0,01+0,0002 = 0,0102 0,01 .
При делении 92:41,63 с помощью калькулятора получается число
2,2099... Абсолютная недостоверность частного равна
2,2099...× 0,01 0,02 .
Следовательно, недостоверна вторая цифра после запятой и результат
деления следует округлить до 2,21.
Возведение в степень. При возведении числа в степень относительная
недостоверность результата увеличивается в число раз, равное показателю
степени. Так, при возведении в квадрат она удваивается.
Извлечение квадратного корня. Относительная недостоверность
результата извлечения квадратного корня вдвое меньше относительной
недостоверности подкоренного числа, поэтому в некоторых случаях после
извлечения корня число значащих цифр увеличивается.
Например,
000.100,1 =
, т.к. относительная недостоверность числа
1,00 равна 0,01:1,00=0,01, а результата извлечения корня 0,005.
Следовательно, абсолютная недостоверность результата равна 1,00×0,005.
Таким образом, первой недостоверной цифрой в результате является третья
   Значимость суммы определяется значимостью                 числа   1,00×10-5,
имеющего наименьшее количество десятичных знаков.

    Умножение и деление. Обычно для оценки значимости произведения
или частного пользуются следующим правилом: значимость произведения
или частного определяется значимостью сомножителя с наименьшим числом
значащих цифр. Например, перемножение чисел 2,5 и 3,75 дает произведение,
содержащее две значащие цифры, т.е. 9,4, а не 9,375, как получается при
перемножении вручную или с помощью калькулятора.
    Более строгий подход основан на сравнении относительных
недостоверностей сомножителей и произведения (или частного).
Относительная недостоверность произведения (или частного) равна сумме
относительных недостоверностей сомножителей. Например, нужно найти
частное 92:41,63. Относительные недостоверности составляют

    1:92 = 0,0109 ≈ 0,01 и 0,01:41,63 = 0,00024 ≈ 0,0002 .

    Следовательно, относительная недостоверность частного равна

    0,01+0,0002 = 0,0102 ≈ 0,01 .

    При делении 92:41,63 с помощью калькулятора получается число
2,2099... Абсолютная недостоверность частного равна

    2,2099...× 0,01 ≈ 0,02 .
    Следовательно, недостоверна вторая цифра после запятой и результат
деления следует округлить до 2,21.

    Возведение в степень. При возведении числа в степень относительная
недостоверность результата увеличивается в число раз, равное показателю
степени. Так, при возведении в квадрат она удваивается.

    Извлечение квадратного корня. Относительная недостоверность
результата извлечения квадратного корня вдвое меньше относительной
недостоверности подкоренного числа, поэтому в некоторых случаях после
извлечения корня число значащих цифр увеличивается.
    Например, 1,00 = 1.000 , т.к. относительная недостоверность числа
1,00 равна 0,01:1,00=0,01, а результата извлечения корня 0,005.
Следовательно, абсолютная недостоверность результата равна 1,00×0,005.
Таким образом, первой недостоверной цифрой в результате является третья


                                     51