Лекции по теории информации. Фурсов В.А. - 63 стр.

UptoLike

Составители: 

63
7.3 Производительность источника дискретных сообщений
Производительность источника сообщений это количество информации,
вырабатываемое источником в единицу времени. Обычно помехи в источнике
малы и их учитывают эквивалентным изменением модели канала связи. При
этом производительность источника
( )
и
I Z
численно равна величине энтропии
в единицу времени и определяется соотношением
( )
( )
и
и
H Z
I Z
, (7.5)
где
и
– средняя длительность формирования одного знака.
Длительность выдачи каждого отдельного элемента сообщения в общем
случае зависит не только от типа формируемого знака, но и от состояния ис-
точника. Поэтому средняя длительность
и
выдачи источником одного знака в
общем случае определяется как
1
( ) ( )
i
N
и i z q
q i
p q p z q
, (7.6)
где
i
z q
длительность выдачи знака
i
z
в состоянии
q
,
( )
i
p z q
вероятность
появления знака
i
z
в состоянии
q
, а
( )
p q
– вероятность состояния
q
.
Из формулы (7.5) следует, что повысить производительность источника
можно либо путем увеличения его энтропии, либо за счет уменьшения средней
длительности формирования знаков. В соответствии с (7.6) уменьшение сред-
ней длительности
и
наиболее эффективно за счет уменьшения длительности
формирования тех знаков, которые имеют относительно высокие вероятности
появления. Если длительности формирования знаков не зависят от состояний
источника и одинаковы, повышение производительности возможно только за
счет увеличения его энтропии.