Цитогенетический мониторинг. Калаев В.Н - 18 стр.

                                       18
эффекта. При этом методе сравниваемые доли выражают в процентах с
введением поправки Йейтса на непрерывность, равной 1/2n, которую вы-
читают из большей и прибавляют к меньшей доле. Затем по таблице зна-
чений ϕ =2 arcsin( P ) (см. табл. VI Приложений) находят величины для ис-
правленных долей: p1%+100/(2n) (меньшая доля) и p2 %+100/(2n) (большая
доля), берут их разность и относят ее к ошибке, определяемой по формуле:
                                     1 1
                             sd ϕ =   +                             [23]
                                    n1 n2

      Нулевая гипотеза при использовании угловой трансформации звучит
следующим образом: доля случаев, в которых проявляется исследуемый
эффект, в выборке 1 не больше, чем в выборке 2.
      Условием для неприятия нулевой гипотезы служит следующее вы-
ражение:
                      ϕ1 −ϕ 2                    n1n 2
             ϕф =                  =(ϕ1 −ϕ 2 )         ≥ϕ st         [24]
                    1 / n1 +1 / n2              n1 +n2
для k=n1+n2–2 и принятого уровня значимости.
      Ограничения критерия.
      1) Ни одна из сопоставляемых долей не должна быть равной нулю.
      2) Число элементов выборки не ограничено сверху. Нижний предел
– 2 наблюдения в одной из выборок, при условии соблюдения соотноше-
ний:
              Первая выборка                       Вторая выборка
               2 наблюдения                   Не менее 30 наблюдений
               3 наблюдения                    Не менее 7 наблюдений
               4 наблюдения                    Не менее 5 наблюдений
           При n1; n2 больше или равно 5 возможны любые сочетания.

             Алгоритм расчета критерия φ-преобразования.
  1) Определить те значения признака, которые будут критерием для
     разделения выборки на группы, обладающие эффектом и без эффек-
     та.
  2) Начертить таблицу из двух столбцов и двух строк:

          Есть эффект   1 выборка      Нет эффекта     1 выборка

          Есть эффект   2 выборка      Нет эффекта     2 выборка

  3) Подсчитать количества значений, соответствующих ячейкам этой
     таблицы, и занести числа в таблицу. Сумма чисел по строкам должна
     совпадать с объемом первой и второй выборки - соответственно.
  4) Подсчитать процентные доли значений, имеющих эффект для пер-
     вой и второй выборки, путем деления содержимого ячеек левого
     столбца на объем соответствующей выборки. Подписать к таблице