ВУЗ:
Составители:
Рубрика:
44
Округление при вычислениях. При записи результатов промежу-
точных вычислений сохраняется одна запасная цифра – цифра, стоящая
справа от сомнительной. При сложении и вычитании приближенных
чисел разряд сомнительной цифры результата совпадает со старшим из
разрядов сомнительных цифр слагаемых. Результат умножения и деле-
ния содержит столько значащих цифр, сколько их в исходном данном с
наименьшим количеством значащих цифр. При возведении в степень
(извлечении корня) приближенного числа результат должен иметь
столько значащих цифр, сколько их в основании (подкоренном выра-
жении). При логарифмировании в мантиссе сохраняется столько зна-
чащих цифр, сколько их в исходном числе. Если один из операндов
точное число, то количество его цифр не влияет на округление резуль-
тата операции. Если при вычислениях используются табличные дан-
ные, то все их цифры верные.
Приведём примеры округления результатов измерений.
Запись до округления Запись после округления
123357 ± 678 А/м 123400 ± 700 А/м
123357 ± 678 В 123,4 ±0,7 кВ
237,46 ± 0,13 мм 237,5 ± 0,1 мм
0,00283 ± 0,00034 кг (2,8 ± 0,3)·10
3
Квадратичное суммирование. Если при квадратичном суммировании
одно из чисел меньше другого в 3 и более раз, то им можно пренебречь.
Пример 5.1. Вольтметром измерено 10 отсчётов напряжения U в
электрической цепи. Вольтметр, класс точности которого K = 2,5, имеет
максимальное значение шкалы, равное A = 200 В. Результаты измере-
ний представлены в табл. 5.3. Необходимо обработать результаты из-
мерений, обеспечив 98 % надёжность оценки напряжения.
5.3. Результаты измерения напряжения
№ 1 2 3 4 5 6 7 8 9 10
U, В 145 140 145 105 130 150 150 155 175 160
Вычисляем инструментальную погрешность ∆
5
100
2005,2
100
=
⋅
==
KA
a
В.
Для заданной доверительной вероятности α = 98 % и количества отсчё-
тов N = 10 определяем коэффициент доверия t
98; 10
= 2,8 (см. табл. 5.1).
Вычисляем среднее значение 〈U〉 = 146 В. Вычисляем среднее квадра-
тическое отклонение отсчётов
( )
6,18
1
2
=
−
−
=
∫
N
UU
S
N
n
n
U
В.
Проверяем отсчёты на наличие промахов. Аномальным отсчётом
является отсчёт № 4. Вычисляем нормированное отклонение U от сред-
Страницы
- « первая
- ‹ предыдущая
- …
- 43
- 44
- 45
- 46
- 47
- …
- следующая ›
- последняя »
