ВУЗ:
Составители:
Рубрика:
50
следует представить в нормальном виде, т.е. в виде произведения числа,
содержащего только значащие цифры, на 10". В нашем примере - 2,8×10
5
.
Округление чисел. Результат вычислений должен содержать только
значащие цифры, независимо от того, сколько цифр входило в числа,
использованные при расчетах. Поэтому незначащие цифры следует
исключить из конечных результатов.
Обычно незначащие цифры исключают, округляя число, при этом
последнюю сохраняемую цифру увеличивают на 1 (если отбрасываемая
цифра > 5) или оставляют неизменной (если отбрасываемая цифра < 5).
Например, если необходимо округлить числа 3,245 и 81,22 до трех значащих
цифр, то в результате получим 3,25 и 81,2.
Абсолютная и относительная недостоверности. Абсолютная
недостоверность определяется по последней значащей цифре числа и
выражается непосредственно в единицах измерения самой измеряемой
величины. Например, абсолютная недостоверность массы, выраженной как
8,8 г, будет равна ±0,1 г. Абсолютная недостоверность объема, записанного
как 17,36 мл, будет равна ± 0,01 мл. Абсолютная недостоверность выражается
в тех же единицах, что и измеряемая величина - в г, мл и т.п.
Относительная недостоверность массы 8,8 г равна 0,1/8,8 = 1/88.
Относительная недостоверность объема 17,36 мл составляет 0,01/17,36 =
1/1736. Иногда относительную недостоверность выражают в %.
Относительная недостоверность не имеет размерности, т.к. она равна
отношению двух величин одинаковой размерности.
Чтобы показать отличие абсолютной и относительной недостоверности,
приведем пример. Взвешивают на аналитических весах 2 образца. Один весит
0,0013 г, второй - 0,7822 г. Абсолютные недостоверности обеих величин
одинаковы - + 0,0001 г, а относительные 0,0001/0.0013= 1/13 и 0,0001/0,7822 =
1/7822 значительно различаются.
Сложение и вычитание. Значимость суммы или разности
определяется значимостью числа с наименьшим количеством десятичных
знаков (или с наибольшей абсолютной недостоверностью).
Пример:
15,6 + 3 + 0,21 = 18,81.
Значимость суммы определяется недостоверностью числа 3,
следовательно, результат надо округлить до 19.
Числа, содержащие степени, преобразуют, приводя показатели степеней
к наибольшему.
Пример:
5×10
-5
+1,00×10
-2
+4,8×10
-3
=0,005×10
-2
+1,00×10
-2
+0,48×10
-2
=1,485×10
-2
≈ 1,49×10
-2
следует представить в нормальном виде, т.е. в виде произведения числа, содержащего только значащие цифры, на 10". В нашем примере - 2,8×105. Округление чисел. Результат вычислений должен содержать только значащие цифры, независимо от того, сколько цифр входило в числа, использованные при расчетах. Поэтому незначащие цифры следует исключить из конечных результатов. Обычно незначащие цифры исключают, округляя число, при этом последнюю сохраняемую цифру увеличивают на 1 (если отбрасываемая цифра > 5) или оставляют неизменной (если отбрасываемая цифра < 5). Например, если необходимо округлить числа 3,245 и 81,22 до трех значащих цифр, то в результате получим 3,25 и 81,2. Абсолютная и относительная недостоверности. Абсолютная недостоверность определяется по последней значащей цифре числа и выражается непосредственно в единицах измерения самой измеряемой величины. Например, абсолютная недостоверность массы, выраженной как 8,8 г, будет равна ±0,1 г. Абсолютная недостоверность объема, записанного как 17,36 мл, будет равна ± 0,01 мл. Абсолютная недостоверность выражается в тех же единицах, что и измеряемая величина - в г, мл и т.п. Относительная недостоверность массы 8,8 г равна 0,1/8,8 = 1/88. Относительная недостоверность объема 17,36 мл составляет 0,01/17,36 = 1/1736. Иногда относительную недостоверность выражают в %. Относительная недостоверность не имеет размерности, т.к. она равна отношению двух величин одинаковой размерности. Чтобы показать отличие абсолютной и относительной недостоверности, приведем пример. Взвешивают на аналитических весах 2 образца. Один весит 0,0013 г, второй - 0,7822 г. Абсолютные недостоверности обеих величин одинаковы - + 0,0001 г, а относительные 0,0001/0.0013= 1/13 и 0,0001/0,7822 = 1/7822 значительно различаются. Сложение и вычитание. Значимость суммы или разности определяется значимостью числа с наименьшим количеством десятичных знаков (или с наибольшей абсолютной недостоверностью). Пример: 15,6 + 3 + 0,21 = 18,81. Значимость суммы определяется недостоверностью числа 3, следовательно, результат надо округлить до 19. Числа, содержащие степени, преобразуют, приводя показатели степеней к наибольшему. Пример: 5×10-5+1,00×10-2+4,8×10-3 =0,005×10-2+1,00×10-2+0,48×10-2=1,485×10-2≈ 1,49×10-2 50
Страницы
- « первая
- ‹ предыдущая
- …
- 48
- 49
- 50
- 51
- 52
- …
- следующая ›
- последняя »