ВУЗ:
Составители:
Рубрика:
На при мер, для вто ро курс ни ка (со стоя ние
s
2
) воз мож ны пе ре хо -
ды: в со стоя ние s
7
— вы был
( )p
2
;
s
2
— ос тал ся
( )q
2
;
s
3
— пе ре шел на тре -
тий курс
( )r
2
;
p q r
2 2 2
1+ + =
и так далее.
2) Бу дем рас смат ри вать мар ков ские про цес сы, для ко то рых раз -
но сти смеж ных мо мен тов на блю де ния
t t
i
i
-
-1
рав ны по сто ян но му чис лу
(шаг = 1) и все воз мож ные со стоя ния пе ре чис ле ны. Та кие про цес сы на -
зы ва ют ся це пя ми Мар ко ва.
Ес ли ве ро ят но сти пе ре хо дов не за ви сят от t, то цепь Мар ко ва на -
зы ва ет ся од но род ной. Это та кие це пи, где ве ро ят но сти пе ре хо да ста цио -
нар ны во вре ме ни (это не зна чит, что ста цио нар ным дол жен быть и слу -
чай ный про цесс). То есть ес ли за да но те ку щее со стоя ние, то ве ро ят но -
сти раз лич ных со стоя ний че рез
n
ша гов за ви сят толь ко от этих
n
ша гов и
не за ви сят от те ку ще го вре ме ни.
3) Вы чис лим ве ро ят ность пе ре хо да ме ж ду со стоя ния ми за
n
ша -
гов. Пусть
p t
ij
( )
— ве ро ят но сти пе ре хо дов за
n
ша гов из со стоя ния
s
i
в
s
j
;
r
P t( )
— мат ри ца пе ре хо да с эле мен та ми
p t
ij
( )
; t= 1,2,3,…
Для
t =1
ве ро ят ность
p p
ij ij
( )1 =
и мат ри ца
P P( )1 =
– пе ре ход за
1 шаг.
Рас смот рим мо мент вре ме ни t (
1< <t t
) и со стоя ние
s
l
. Ве ро ят -
ность пе ре хо да из со стоя ния
s
i
в со стоя ние
s
j
за вре мя t от лич на от 0, ес -
ли воз мо жен пе ре ход из
s
i
в
s
l
за вре мя t (то есть
p
il
s
> 0
) и воз мо жен пе -
ре ход из
s
l
в
s
j
за ос тав шее ся вре мя
( )t - >t 0
, то есть
p
lj
t-
>
t
0
для ка ко го-
ли бо l. Та ким об ра зом, ве ро ят ность пе ре хо да из со стоя ния
s
i
в со стоя -
ние
s
j
че рез со стоя ние
s
l
рав на
p s p
il
s
lj
t s( ) ( )
( )×
-
. Для по лу че ния ве ро ят но -
сти пе ре хо да из
s
i
в
s
j
в со от вет ст вии с фор му лой пол ной ве ро ят но сти
сле ду ет пе ре сум ми ро вать так же про из ве де ния ве ро ят но стей по всем
про ме жу точ ным со стоя ни ям l. Име ем:
p t p s p
ij
l
s
l
m
lj
t s
( ) ( )
( )
=
=
=
-
å
1
1
, (4.4.1)
или это мож но за пи сать как про из ве де ние мат риц:
r r r
P t P s P t s( ) ( ) ( )= × -
.
Та ким об ра зом, мож но ви деть, что
39
Например, для второкурсника (состояние s 2 ) возможны перехо- ды: в состояние s7 — выбыл ( p2 ); s 2 — остался (q 2 ); s 3 — перешел на тре- тий курс (r2 ); p2 + q 2 + r2 = 1 и так далее. 2) Будем рассматривать марковские процессы, для которых раз- ности смежных моментов наблюдения t i - t i -1 равны постоянному числу (шаг = 1) и все возможные состояния перечислены. Такие процессы на- зываются цепями Маркова. Если вероятности переходов не зависят от t, то цепь Маркова на- зывается однородной. Это такие цепи, где вероятности перехода стацио- нарны во времени (это не значит, что стационарным должен быть и слу- чайный процесс). То есть если задано текущее состояние, то вероятно- сти различных состояний через n шагов зависят только от этих n шагов и не зависят от текущего времени. 3) Вычислим вероятность перехода между состояниями за n ша- гов. r Пусть pij (t ) — вероятности переходов за n шагов из состояния s i в s j ; P (t ) — матрица перехода с элементами pij (t ); t= 1,2,3,… Для t =1 вероятность pij (1) = pij и матрица P (1) = P – переход за 1 шаг. Рассмотрим момент времени t (1< t < t) и состояние s l . Вероят- ность перехода из состояния s i в состояние s j за время t отлична от 0, ес- ли возможен переход из s i в s l за время t (то есть pils > 0) и возможен пе- реход из s l в s j за оставшееся время (t - t > 0), то есть pljt- t > 0 для какого- либо l. Таким образом, вероятность перехода из состояния s i в состоя- ние s j через состояние s l равна pil( s ) ( s)× plj( t - s ) . Для получения вероятно- сти перехода из s i в s j в соответствии с формулой полной вероятности следует пересуммировать также произведения вероятностей по всем промежуточным состояниям l. Имеем: m pij (t ) = å pls=1 ( s) plj( t - s ) , (4.4.1) l =1 или это можно записать как произведение матриц: r r r P (t ) = P ( s) × P (t - s). Таким образом, можно видеть, что 39
Страницы
- « первая
- ‹ предыдущая
- …
- 37
- 38
- 39
- 40
- 41
- …
- следующая ›
- последняя »