ВУЗ:
Составители:
Рубрика:
51
Значимость суммы определяется значимостью числа 1,00×10
-5
,
имеющего наименьшее количество десятичных знаков.
Умножение и деление. Обычно для оценки значимости произведения
или частного пользуются следующим правилом: значимость произведения
или частного определяется значимостью сомножителя с наименьшим числом
значащих цифр. Например, перемножение чисел 2,5 и 3,75 дает произведение,
содержащее две значащие цифры, т.е. 9,4, а не 9,375, как получается при
перемножении вручную или с помощью калькулятора.
Более строгий подход основан на сравнении относительных
недостоверностей сомножителей и произведения (или частного).
Относительная недостоверность произведения (или частного) равна сумме
относительных недостоверностей сомножителей. Например, нужно найти
частное 92:41,63. Относительные недостоверности составляют
1:92 = 0,0109 ≈ 0,01 и 0,01:41,63 = 0,00024 ≈ 0,0002 .
Следовательно, относительная недостоверность частного равна
0,01+0,0002 = 0,0102 ≈ 0,01 .
При делении 92:41,63 с помощью калькулятора получается число
2,2099... Абсолютная недостоверность частного равна
2,2099...× 0,01 ≈ 0,02 .
Следовательно, недостоверна вторая цифра после запятой и результат
деления следует округлить до 2,21.
Возведение в степень. При возведении числа в степень относительная
недостоверность результата увеличивается в число раз, равное показателю
степени. Так, при возведении в квадрат она удваивается.
Извлечение квадратного корня. Относительная недостоверность
результата извлечения квадратного корня вдвое меньше относительной
недостоверности подкоренного числа, поэтому в некоторых случаях после
извлечения корня число значащих цифр увеличивается.
Например,
000.100,1 =
, т.к. относительная недостоверность числа
1,00 равна 0,01:1,00=0,01, а результата извлечения корня 0,005.
Следовательно, абсолютная недостоверность результата равна 1,00×0,005.
Таким образом, первой недостоверной цифрой в результате является третья
Значимость суммы определяется значимостью числа 1,00×10-5, имеющего наименьшее количество десятичных знаков. Умножение и деление. Обычно для оценки значимости произведения или частного пользуются следующим правилом: значимость произведения или частного определяется значимостью сомножителя с наименьшим числом значащих цифр. Например, перемножение чисел 2,5 и 3,75 дает произведение, содержащее две значащие цифры, т.е. 9,4, а не 9,375, как получается при перемножении вручную или с помощью калькулятора. Более строгий подход основан на сравнении относительных недостоверностей сомножителей и произведения (или частного). Относительная недостоверность произведения (или частного) равна сумме относительных недостоверностей сомножителей. Например, нужно найти частное 92:41,63. Относительные недостоверности составляют 1:92 = 0,0109 ≈ 0,01 и 0,01:41,63 = 0,00024 ≈ 0,0002 . Следовательно, относительная недостоверность частного равна 0,01+0,0002 = 0,0102 ≈ 0,01 . При делении 92:41,63 с помощью калькулятора получается число 2,2099... Абсолютная недостоверность частного равна 2,2099...× 0,01 ≈ 0,02 . Следовательно, недостоверна вторая цифра после запятой и результат деления следует округлить до 2,21. Возведение в степень. При возведении числа в степень относительная недостоверность результата увеличивается в число раз, равное показателю степени. Так, при возведении в квадрат она удваивается. Извлечение квадратного корня. Относительная недостоверность результата извлечения квадратного корня вдвое меньше относительной недостоверности подкоренного числа, поэтому в некоторых случаях после извлечения корня число значащих цифр увеличивается. Например, 1,00 = 1.000 , т.к. относительная недостоверность числа 1,00 равна 0,01:1,00=0,01, а результата извлечения корня 0,005. Следовательно, абсолютная недостоверность результата равна 1,00×0,005. Таким образом, первой недостоверной цифрой в результате является третья 51
Страницы
- « первая
- ‹ предыдущая
- …
- 49
- 50
- 51
- 52
- 53
- …
- следующая ›
- последняя »