Теория электрической связи. Васильев К.К - 149 стр.

UptoLike

ВУЗ: 

УлГТУ | Ульяновск

Составители: 

Рубрика: 

149
Избыточность источника сообщений
Избыточными в источнике являются сообщения, которые несут малое,
иногда нулевое, количество информации. Наличие избыточности означает, что
часть сообщений можно и не передавать по каналу связи, а восстановить на
приеме по известным статистическим связям. Так и поступают при передаче
телеграмм, исключая из текста союзы, предлоги, знаки препинания, поскольку
они легко восстанавливаются по смыслу телеграммы на основании известных
правил построения фраз.
Количественно избыточность оценивается коэффициентом избыточности:
)(
)(
1
)(
)()(
maxmax
max
XH
XH
XH
XHXH
−=
−
=
χ
,
(4.5)
где
()
XH – энтропия источника;
(
)
mXH
2max
log
=
– максимальная энтропия ис-
точника с алфавитом из m сообщений.
Избыточность при передаче сообщений имеет свои положительные и от-
рицательные стороны. Увеличение избыточности приводит к увеличению вре-
мени передачи сообщений, излишней загрузке каналов связи. За определенный
промежуток времени по каналу передается меньшее количество информации,
чем это возможно; поэтому одной из задач теории информации и техники ко-
дирования является задача сокращения избыточности.
Однако при увеличении избыточности появляется возможность повыше-
ния помехоустойчивости передачи сообщений. Так, избыточность текста по-
зволяет исправлять отдельные ошибки или восстанавливать пропущенные бук-
вы или даже слова в телеграмме. У русского и всех европейских языков избы-
точность с учетом всех статистических зависимостей букв примерно одинакова
5,0=
χ
. Она сформировалась в результате длительной, общественной практики
на основе требований исправления искажения слов и фраз под воздействием
различных мешающих факторов. Для систем связи устанавливается компро-
миссное значение избыточности, которое обеспечивает заданную скорость и
надежность передачи сообщений.

Страницы