Лекции по теории информации. Фурсов В.А. - 59 стр.

UptoLike

ВУЗ: 

СГАУ | Самара

Составители: 

Рубрика: 

59
6.7 Избыточность сообщений
Сообщения, энтропия которых максимальна, являются оптимальными с
точки зрения наибольшего количества передаваемой информации. Мерой отли-
чия энтропии реального сообщения от оптимального является коэффициент
сжатия:
( )
( )
opt
H Z
H Z
. (6.16)
Если оптимальное и неоптимальное сообщения характеризуются одинако-
вой общей энтропией, то имеет место равенство
opt
nH Z n H Z
, (6.17)
где
n
– число элементов неоптимального сообщения,
n
– число элементов оп-
тимального сообщения.
С учетом (6.17) коэффициент сжатия (6.16) можно представить в виде
( )
( )
opt
H Z n
H Z n
.
Для характеристики близости энтропии реальных сообщений к оптималь-
ному значению вводится также коэффициент избыточности:
( ) ( )
1
( )
opt
z
opt
H Z H Z
n n
K
n H Z
.
Увеличение избыточности приводит к увеличению времени передачи со-
общений. Однако некоторая избыточность может быть полезной с точки зрения
повышения надежности системы.

Страницы