Цитогенетический мониторинг. Калаев В.Н - 77 стр.

UptoLike

Составители: 

Рубрика: 

77
ПРИМЕРЫ РАСЧЕТОВ С ИСПОЛЬЗОВАНИЕМ РАЗЛИЧНЫХ
СТАТИСТИЧЕСКИХ КРИТЕРИЕВ
Пример 1. Необходимо сравнить опытную и контрольную выборки
по показателю митотической активности:
Опытная выборка Контрольная выборка
5,2 % 6,0 %
5,0 % 5,0 %
4,8 % 4,0 %
7,0 %
Показатель митотической активности относится к признакам с нор-
мальным распределением . Для сравнения данных выборок будем исполь -
зовать t-критерий Стьюдента и F-критерий Фишера .
Находим среднее арифметическое значение признака в каждой вы-
борке:
%0,5
3
8,40,52,5
=
+
+
=
оп
x
;
%.5,5
4
0,70,40,50,6
.
=
+
+
+
=
контр
x
Находим дисперсию для каждой выборки по формуле [9]:
(
)
(
)
(
)
04,0
2
04,0004,0
1
3
0,58,40,50,50,52,5
222
.
2
=
++
=
++−
=
оп
s
(
)
(
)
(
)
(
)
67,1
3
25,225,225,025,0
14
5,50,75,50,45,50,55,50,6
2222
.
2
=
+++
=
+++−
=
контр
s
Вычисляем фактический t-критерий Стьюдента, зная, что дисперсии
двух выборок не равны и выборки не равночисленны. Пользуясь формулой
[12], находим
16,1
418,0013,0
5,0
4/67,13/04,0
5,50,5
=
+
=
+
=
ф
t
По формуле [18] находим число степеней свободы:
()
[]
3~31,3231,5203498,018576,0203494,000004,0431,0
2
5
418,0
4
013,0
418,0013,0
2
14
)467,1(
13
)304,0(
4
67,1
3
04,0
2
22
2
22
2
===+=
=−
++=
=−
+
+
+
+= k
По таблице I Приложений для α=5 % и k=3 находим t
st
=3,182. Следо-
вательно, t
ф
<t
st
, нулевую гипотезу отвергнуть нельзя . Опытная и контроль -
ная выборки по t-критерию Стьюдента не различаются.
Сравним данные выборки по F-критерию Фишера . По формуле [19]:
75,4104,067,1
=
=
ф
F .
                            77
      ПРИМЕРЫ РАСЧЕТОВ С ИСПОЛЬЗОВАНИЕМ РАЗЛИЧНЫХ
                СТАТИСТИЧЕСКИХ КРИТЕРИЕВ

       Пример 1. Необходимо сравнить опытную и контрольную выборки
по показателю митотической активности:
            Опытная выборка                                        Контрольная выборка
                     5,2 %                                                       6,0 %
                     5,0 %                                                       5,0 %
                     4,8 %                                                       4,0 %
                                                                                 7,0 %
       Показатель митотической активности относится к признакам с нор-
мальным распределением. Для сравнения данных выборок будем исполь-
зовать t-критерий Стьюдента и F-критерий Фишера.
       Находим среднее арифметическое значение признака в каждой вы-
борке:
                                           5, 2 +5,0 +4,8
                                 x оп =                        =5,0 % ;
                                                      3
                                        6,0 +5,0 +4,0 +7,0
                            x контр. =                               =5,5 %.
                                                        4
       Находим дисперсию для каждой выборки по формуле [9]:
           2
       sоп. =
                ( 5,2 −5,0 ) +(5,0 −5,0) +(4,8 −5,0)
                             2                      2              2
                                                                      =
                                                                        0,04 +0 +0,04
                                                                                       =0,04
                                      3 −1                                        2
                    2
             sконтр. =
                          (6,0 −5,5) +(5,0 −5,5 ) +(4,0 −5,5) +(7,0 −5,5)
                                      2                     2              2           2

                                                            4 −1
                                        0,25 +0,25 +2,25 +2,25
                                     =                                    =1,67
                                                          3
       Вычисляем фактический t-критерий Стьюдента, зная, что дисперсии
двух выборок не равны и выборки не равночисленны. Пользуясь формулой
[12], находим
                                   5,0 −5,5                      0,5
                        tф =                             =                      =1,16
                               0,04 / 3 +1,67 / 4 0,013 +0,418
       По формуле [18] находим число степеней свободы:
                                         2
                      � 0,04 1,67 �            � ( 0,04 3) 2 (1,67 4) 2 �
                 k =�         +       �         �              +             � −2 =
                       � 3        4 �             �   3 + 1          4 +1     �
                                             2 � 0,013          0, 4182 �
                                                            2
                     =(0,013 +0,418) �                        +           −2 =
                                                    �   4           5 ��
 =0, 4312 [0,00004 +0,03494]−2 =0,18576 0,03498 −2 =5,31 −2 =3,31 ~ 3
       По таблице I Приложений для α=5 % и k=3 находим tst=3,182. Следо-
вательно, tф