Дискретная математика. Громов Ю.Ю - 77 стр.

UptoLike

77
Матрица переходов P характеризует распределение вероятностей
перехода системы из одного состояния в другое за один, а матрица P
k
за k интервалов времени.
Так, матрица
1 0 0 0 0 0
7/12 7/36 1/9 1/9 0 0
P
2
=
1/4 1/6 13/36
1/9 1/9 0
0 1/4 1/6 13/36
1/9 1/9
0 0 1/4 1/6 7/36 7/18
0 0 0 0 0 1
характеризует распределение вероятностей перехода системы из одного
состояния в другое за два интервала времени.
Если начальное состояние цепи Маркова задано вектором x, то на-
хождение её в различных состояниях через k интервалов времени будет
определять вектор x P
k
.
Пусть начальным состоянием в рассматриваемом примере цепи
Маркова будет состояние s
4
, заданное вектором x = (0, 0, 0, 1, 0, 0). Тогда
вероятности нахождения системы в определённых состояниях через один
интервал времени описываются вектором x P = (0, 0, 1/2, 1/6, 1/3, 0), через
два интервала временивектором x P
2
= (0, 1/4, 1/6, 13/36, 1/9, 1/9).
Качественная классификация состояний цепи Маркова может быть
проведена на основе структурных свойств соответствующего графа (без
учёта конкретных весов его дуг). При этом дуги графа будем разделять на
входящие дуги, выходящие дуги и петли.
Преходящее состояние соответствует вершине графа, которая не
имеет входящих дуг и имеет по крайней мере одну выходящую дугу.
Тупиковое состояние вершине, которая не имеет выходящих дуг, но
имеет по крайней мере одну входящую дугу. Изолированное состояние
вершине, не имеющей ни входящих, ни выходящих дуг.
Множество состояний нашей цепи Маркова содержит два тупико-
вых состояния (s
1
и s
6
) и не содержит изолированных и преходящих со-
стояний.
Цепь Маркова называется эргодической, если соответствующий ей
ориентированный граф сильно связен. Эргодическая цепь Маркова назы-
вается регулярной, если существует положительное целое число t
0
такое,
s
1
s
2
s
3
s
4
s
5
s
6
Рис. 41
1 1 1/6
1/6
1/6
1/6
1/2
1/3
1/2
1/3
1/3
1/2
1/3
1/2