Лекции по теории информации. Фурсов В.А. - 44 стр.

UptoLike

ВУЗ: 

СГАУ | Самара

Составители: 

Рубрика: 

44
мента с двумя предшествующими характеризуется условной вероятностью
/
i j k
p z z z
, а соответствующая последовательность называется двусвязной це-
пью Маркова.
Для односвязной цепи Маркова в предположении, что известен (принят)
элемент
j
z
из алфавита объема
, частная условная энтропия
2
1
/ / log /
N
j i j i j
i
H Z z p z z p z z
.
При этом полная (средняя) условная энтропия определяется как
2
1 1
( ) / log /
N N
j i j i j
j i
H Z p z p z z p z z
. (4.20)
Аналогично для двусвязной цепи Маркова
2
1
/ ( / )log ( / )
N
j k i j k i j k
i
H Z z z p z z z p z z z
,
2
,
( ) ( , ) ( / )log ( / )
j k i j k i j k
j k i
H Z p z z p z z z p z z z
. (4.21)
Можно построить выражения для энтропии и при более протяженной связи
между элементами последовательности.

Страницы