ВУЗ:
Составители:
23
3. ПРАВИЛА ОКРУГЛЕНИЯ И ЗАПИСИ РЕЗУЛЬТАТОВ
ИЗМЕРЕНИЙ [2]
1. Числовое значение результата измерений округляют в соответствии с
числовым разрядом значащей цифры погрешности измерений.
Лишние цифры в целых числах заменяют нулями, в десятичных дробях –
отбрасывают. Если десятичная дробь оканчивается нулями, их отбрасывают
только до того разряда, который соответствует разряду погрешности.
Пример 4. Результат 1,072000, погрешность
±
0,0001. Результат округ-
ляют до 1,0720.
Если первая (слева направо) из заменяемых нулями или отбрасываемых
цифр меньше 5, остающиеся цифры не изменяются.
Если первая из этих цифр равна 5, а за ней не следует никаких цифр, или
идут нули, то, если последняя цифра в округляемом числе четная или нуль, она
остается без изменения, если нечетная – увеличивается на единицу.
Пример 5. 1234,50 округляют до 1234; 8765,50 – до 8766.
Если первая из заменяемых нулями или отбрасываемых цифр больше 5
или равна 5, но за ней следует значащая цифра, то последняя остающаяся цифра
увеличивается на единицу.
Пример 6. 6783,6 округляют до 6784; 12,34501 до 12,35.
2. Погрешность, возникающая в результате вычислений, не должна пре-
вышать 10 % суммарной погрешности измерений. Поэтому, если над результа-
тами измерений предстоит произвести некоторые математические операции, то
при округлении результатов в с оответс твии с правилом 1, добавляют один раз-
ряд справа, т.е. в первом примере результат 1, 072000 нужно округлить не до
1,0720, а до 1,07200.
3. Если в процессе вычисления встречается операция деления, бессмыс-
ленно продолжать ее по правилам арифметики, после того, как получен резуль-
тат, соответствующий правилу 1.
4. При определении числа знаков при вычислении погрешностей измере-
ний следует учитывать, что погрешность определения значения погрешности
достаточно велика, порядка 30 % при n = 10 и порядка 15 % при n = (20 – 25),
поэтому, при n ≤ 10 следует оставлять одну значащую цифру, если она больше
трех, и две, если первая из них меньше четырех.
Пример 7. Если при n = 10,
х
S = 0,523, оставляем значение
х
S = 0,5; ес-
ли при n = 10
х
S = 0,253, оставляем значение
х
S = 0,25.
При n ≥ 10 достаточно надежно оставлять во всех случаях две значащие
цифры.
Страницы
- « первая
- ‹ предыдущая
- …
- 22
- 23
- 24
- 25
- 26
- …
- следующая ›
- последняя »
