Основы научных исследований. Кокшарова Т.Е. - 17 стр.

UptoLike

Составители: 

33
Округление данных эксперимента.
При обработке результатов анализа необходимо все цифры математиче-
ски обработать, отбросить незначащие цифры. Округлить данные анализа.
В большинстве исследований (для решения практических задач) измере-
ния и вычисления ведут с предельной относительной ошибкой порядка 1 - 5%.
В точных аналитических исследованиях ошибка возможна не более 0,5% [14].
Ошибку измерения необходимо знать для того, чтобы правильно выбрать
точность измерения. Например, если относительная погрешность метода
составляет 1%, то при взвешивании пробы в количестве 1 г можно ограни-
читься точностью 0,01, т. к. следующая цифра будет находиться за пределами
точности метода.
Ошибка не должна содержать более двух значащих цифр. Среднее
значение
Х должно иметь такое же число десятичных знаков, как и
ошибка. Например. Влажность творога 72,564 %, а вычисленная ошибка
0,4542 % . Результат следует записать: 72,56 + 0,45.
При анализе и расчете данных исследований, особенно микробиологиче-
ских, получают цифры, имеющие четыре или даже пять знаков. Их следует ок-
руглять. Большие и малые числа удобно записывать в виде произведения числа
на 10 в степени, обозначающей порядок величины. Так, например, 171=
1,71*10
2
; 17100=1,71*10
4
; 0,0000171=1,71*10
5
.
Такой способ позволяет также фиксировать число значащих (верных)
цифр. Если в числе 6 280 000 две значащие цифры, то следует записать так:
6,3*10
6
, три - 6,28*10
6
, четыре – 6,280*10
6
. Число 0,000491 записывается
4,9*10
4
, если в нем две значащие цифры, и 4,91*10
4
, если три значащие
цифры.
2. Расчет статистических величин
Математическая обработка результатов исследования включает рас-
чет, как минимум, следующих статистических величин:
34
средняя арифметическая - Х ;
среднеквадратичное отклонение единичного результата -
2
σσ
= ;
стандартное отклонение среднеарифметической или ошибка
средней арифметической из всех повторностейх;
достоверность средней арифметической - t;
доверительная ошибка оценки измеряемой величины -
ξ
.
Кроме того, при изучении исследователем влияния каких-либо факто-
ров на параметр технологического процесса необходимо также устанавли-
вать корреляционную и функциональную зависимость между ними.
Расчет вышеуказанных статистических величин ведется по формулам
(7,8, 9,10,11,12,14,15,16).
СРЕДНЯЯ АРИФМЕТИЧЕСКАЯ
Х
n
x
Х
n
i
i
=
=
1
. ( 7 )
где x
i
- значение единичного измерения величины;
n – число повторностей измерений величины.
СРЕДНЕКВАДРАТИЧНОЕ ОТКЛОНЕНИЕ -
σ
2
σσ
=
. ( 8 )
где
2
σ
- дисперсия, равная
2
1
2
)(
1
Хx
n
n
i
i
=
=
σ
. ( 9 )
следовательно
n
Хx
n
i
i
=
=
1
2
)(
σ
. ( 10 )
Величина
σ
всегда положительная. Чем больше значение этой величи-
ны, следовательно, тем больше изменчивость признака исследуемого объекта.
Выражается величина
σ
в тех же единицах измерения, что и средняя арифме-
тическая.
Величину
σ
определяют с точностью на один десятичный знак больше
                                                                                       •     средняя арифметическая - Х ;
Округление данных эксперимента.                                                        •     среднеквадратичное отклонение единичного результата - σ = σ 2 ;
     При обработке результатов анализа необходимо все цифры математиче-                •     стандартное отклонение среднеарифметической или ошибка
ски обработать, отбросить незначащие цифры. Округлить данные анализа.            средней арифметической из всех повторностей – х;
     В большинстве исследований (для решения практических задач) измере-               •     достоверность средней арифметической - t;
ния и вычисления ведут с предельной относительной ошибкой порядка 1 - 5%.
                                                                                       •     доверительная ошибка оценки измеряемой величины - ξ .
В точных аналитических исследованиях ошибка возможна не более 0,5% [14].
                                                                                       Кроме того, при изучении исследователем влияния каких-либо факто-
     Ошибку измерения необходимо знать для того, чтобы правильно выбрать
                                                                                 ров на параметр технологического процесса необходимо также устанавли-
точность измерения. Например, если относительная погрешность метода
                                                                                 вать корреляционную и функциональную зависимость между ними.
составляет 1%, то при взвешивании пробы в количестве 1 г можно ограни-
                                                                                       Расчет вышеуказанных статистических величин ведется по формулам
читься точностью 0,01, т. к. следующая цифра будет находиться за пределами
                                                                                 (7,8, 9,10,11,12,14,15,16).
точности метода.
                                                                                       СРЕДНЯЯ АРИФМЕТИЧЕСКАЯ –                     Х
     Ошибка не должна содержать более двух значащих цифр. Среднее                                                       n


значение Х должно иметь такое же число десятичных знаков, как и
                                                                                                                       ∑x       i
                                                                                                               Х =     i =1
                                                                                                                                    .                (7)
                                                                                                                            n
ошибка. Например. Влажность творога 72,564 %, а вычисленная ошибка
                                                                                       где xi - значение единичного измерения величины;
0,4542 % . Результат следует записать: 72,56 + 0,45.
                                                                                             n – число повторностей измерений величины.
     При анализе и расчете данных исследований, особенно микробиологиче-
ских, получают цифры, имеющие четыре или даже пять знаков. Их следует ок-              СРЕДНЕКВАДРАТИЧНОЕ ОТКЛОНЕНИЕ -                           σ
руглять. Большие и малые числа удобно записывать в виде произведения числа                                 σ = σ .      2
                                                                                                                                                      (8)
на 10 в степени, обозначающей порядок величины. Так, например, 171=                    где σ 2 - дисперсия, равная
1,71*10 ; 17100=1,71*10 ; 0,0000171=1,71*10 .
         2              4                    −5
                                                                                                               1 n
     Такой способ позволяет также фиксировать число значащих (верных)
                                                                                                       σ2 =      ∑ ( xi − Х ) 2 .
                                                                                                               n i =1
                                                                                                                                                      (9)

цифр. Если в числе 6 280 000 две значащие цифры, то следует записать так:              следовательно
6,3*10 6 , три - 6,28*10 6 , четыре – 6,280*10 6 . Число 0,000491 записывается                                   n

                                                                                                               ∑ (x    i    − Х )2
4,9*10 −4 , если в нем две значащие цифры, и 4,91*10 −4 , если три значащие                            σ=       i =1
                                                                                                                                        .             ( 10 )
                                                                                                                           n
цифры.
                                                                                       Величина σ      всегда положительная. Чем больше значение этой величи-
                                                                                 ны, следовательно, тем больше изменчивость признака исследуемого объекта.
                        2. Расчет статистических величин
                                                                                 Выражается величина σ в тех же единицах измерения, что и средняя арифме-
     Математическая обработка результатов исследования включает рас-
                                                                                 тическая.
чет, как минимум, следующих статистических величин:
                                                                                       Величину σ определяют с точностью на один десятичный знак больше
                                      33                                                                                                    34