ВУЗ:
Составители:
Рубрика:
33
Округление данных эксперимента.
При обработке результатов анализа необходимо все цифры математиче-
ски обработать, отбросить незначащие цифры. Округлить данные анализа.
В большинстве исследований (для решения практических задач) измере-
ния и вычисления ведут с предельной относительной ошибкой порядка 1 - 5%.
В точных аналитических исследованиях ошибка возможна не более 0,5% [14].
Ошибку измерения необходимо знать для того, чтобы правильно выбрать
точность измерения. Например, если относительная погрешность метода
составляет 1%, то при взвешивании пробы в количестве 1 г можно ограни-
читься точностью 0,01, т. к. следующая цифра будет находиться за пределами
точности метода.
Ошибка не должна содержать более двух значащих цифр. Среднее
значение
Х должно иметь такое же число десятичных знаков, как и
ошибка. Например. Влажность творога 72,564 %, а вычисленная ошибка
0,4542 % . Результат следует записать: 72,56 + 0,45.
При анализе и расчете данных исследований, особенно микробиологиче-
ских, получают цифры, имеющие четыре или даже пять знаков. Их следует ок-
руглять. Большие и малые числа удобно записывать в виде произведения числа
на 10 в степени, обозначающей порядок величины. Так, например, 171=
1,71*10
2
; 17100=1,71*10
4
; 0,0000171=1,71*10
5−
.
Такой способ позволяет также фиксировать число значащих (верных)
цифр. Если в числе 6 280 000 две значащие цифры, то следует записать так:
6,3*10
6
, три - 6,28*10
6
, четыре – 6,280*10
6
. Число 0,000491 записывается
4,9*10
4−
, если в нем две значащие цифры, и 4,91*10
4−
, если три значащие
цифры.
2. Расчет статистических величин
Математическая обработка результатов исследования включает рас-
чет, как минимум, следующих статистических величин:
34
• средняя арифметическая - Х ;
• среднеквадратичное отклонение единичного результата -
2
σσ
= ;
• стандартное отклонение среднеарифметической или ошибка
средней арифметической из всех повторностей – х;
• достоверность средней арифметической - t;
• доверительная ошибка оценки измеряемой величины -
ξ
.
Кроме того, при изучении исследователем влияния каких-либо факто-
ров на параметр технологического процесса необходимо также устанавли-
вать корреляционную и функциональную зависимость между ними.
Расчет вышеуказанных статистических величин ведется по формулам
(7,8, 9,10,11,12,14,15,16).
СРЕДНЯЯ АРИФМЕТИЧЕСКАЯ –
Х
n
x
Х
n
i
i
∑
=
=
1
. ( 7 )
где x
i
- значение единичного измерения величины;
n – число повторностей измерений величины.
СРЕДНЕКВАДРАТИЧНОЕ ОТКЛОНЕНИЕ -
σ
2
σσ
=
. ( 8 )
где
2
σ
- дисперсия, равная
2
1
2
)(
1
Хx
n
n
i
i
∑
=
−=
σ
. ( 9 )
следовательно
n
Хx
n
i
i
∑
=
−
=
1
2
)(
σ
. ( 10 )
Величина
σ
всегда положительная. Чем больше значение этой величи-
ны, следовательно, тем больше изменчивость признака исследуемого объекта.
Выражается величина
σ
в тех же единицах измерения, что и средняя арифме-
тическая.
Величину
σ
определяют с точностью на один десятичный знак больше
• средняя арифметическая - Х ; Округление данных эксперимента. • среднеквадратичное отклонение единичного результата - σ = σ 2 ; При обработке результатов анализа необходимо все цифры математиче- • стандартное отклонение среднеарифметической или ошибка ски обработать, отбросить незначащие цифры. Округлить данные анализа. средней арифметической из всех повторностей – х; В большинстве исследований (для решения практических задач) измере- • достоверность средней арифметической - t; ния и вычисления ведут с предельной относительной ошибкой порядка 1 - 5%. • доверительная ошибка оценки измеряемой величины - ξ . В точных аналитических исследованиях ошибка возможна не более 0,5% [14]. Кроме того, при изучении исследователем влияния каких-либо факто- Ошибку измерения необходимо знать для того, чтобы правильно выбрать ров на параметр технологического процесса необходимо также устанавли- точность измерения. Например, если относительная погрешность метода вать корреляционную и функциональную зависимость между ними. составляет 1%, то при взвешивании пробы в количестве 1 г можно ограни- Расчет вышеуказанных статистических величин ведется по формулам читься точностью 0,01, т. к. следующая цифра будет находиться за пределами (7,8, 9,10,11,12,14,15,16). точности метода. СРЕДНЯЯ АРИФМЕТИЧЕСКАЯ – Х Ошибка не должна содержать более двух значащих цифр. Среднее n значение Х должно иметь такое же число десятичных знаков, как и ∑x i Х = i =1 . (7) n ошибка. Например. Влажность творога 72,564 %, а вычисленная ошибка где xi - значение единичного измерения величины; 0,4542 % . Результат следует записать: 72,56 + 0,45. n – число повторностей измерений величины. При анализе и расчете данных исследований, особенно микробиологиче- ских, получают цифры, имеющие четыре или даже пять знаков. Их следует ок- СРЕДНЕКВАДРАТИЧНОЕ ОТКЛОНЕНИЕ - σ руглять. Большие и малые числа удобно записывать в виде произведения числа σ = σ . 2 (8) на 10 в степени, обозначающей порядок величины. Так, например, 171= где σ 2 - дисперсия, равная 1,71*10 ; 17100=1,71*10 ; 0,0000171=1,71*10 . 2 4 −5 1 n Такой способ позволяет также фиксировать число значащих (верных) σ2 = ∑ ( xi − Х ) 2 . n i =1 (9) цифр. Если в числе 6 280 000 две значащие цифры, то следует записать так: следовательно 6,3*10 6 , три - 6,28*10 6 , четыре – 6,280*10 6 . Число 0,000491 записывается n ∑ (x i − Х )2 4,9*10 −4 , если в нем две значащие цифры, и 4,91*10 −4 , если три значащие σ= i =1 . ( 10 ) n цифры. Величина σ всегда положительная. Чем больше значение этой величи- ны, следовательно, тем больше изменчивость признака исследуемого объекта. 2. Расчет статистических величин Выражается величина σ в тех же единицах измерения, что и средняя арифме- Математическая обработка результатов исследования включает рас- тическая. чет, как минимум, следующих статистических величин: Величину σ определяют с точностью на один десятичный знак больше 33 34
Страницы
- « первая
- ‹ предыдущая
- …
- 15
- 16
- 17
- 18
- 19
- …
- следующая ›
- последняя »