ВУЗ:
Составители:
Рубрика:
73
роятностью присваивается символ - 0, с меньшей - 1.
Этот процесс продолжается до тех пор, пока в каждой группе не оста-
нется по одному элементу.
Если определить среднюю длину кодовой комбинации
симвn 63,2= , то
она окажется почти равной энтропии источника
битH
i
a
/5751,2
=
. В приве-
денном примере избыточность источника не устранена полностью, т.к. ко-
личество информации в каждом сообщении не равно целому числу бит.
Можно предложить источник с вероятностями сообщений 0,5, 0,25, 0,125,
0,125, энтропия которого будет точно равна средней длине кодовой ком-
бинации. Первое сообщение переносит ровно 1 бит, второе - два бита,
третье и четвертое – по
три бита. Таким же количеством символов эти со-
общения должны быть закодированы в соответствии с методикой Фэно.
Таблица 3.1
Элементы кодовой комбинации Кодовая
комбинация
А
1
0,32 0 00
А
2
0,21
0
1 01
А
3
0,16 0 100
А
4
0,12
0
1 101
А
5
0,08 1 111
А
6
0,06 0 1100
А
7
0,04
0
11010
А
8
0,01
1
1
0
1
1 11011
Оптимальное статистическое кодирование требует задержки элемен-
тов сообщений. Применение кода приводит к ухудшению помехоустойчи-
вости передачи, поэтому такие коды применяют в каналах без помех, т.к.
любая ошибка может привести к невозможности правильного декодирова-
ния большой группы сообщений.
Применение статистического кодирования имеет большое практиче-
ское значение. Например, при временном уплотнении
линий связи в ноч-
ное время большинство абонентов не пользуется телефоном, и групповой
сигнал в линии связи большей частью состоит из нулей. Производитель-
ность источника много меньше пропускной способности канала. Отклю-
чать абонентов нельзя, но их сообщения можно перекодировать статисти-
ческим кодом, они станут много короче, и в освободившееся время можно
передавать другие сообщения, например, телеграммы, тексты газет и т.п.
Рассмотрим методику такого кодирования. Пусть статистика цифро-
вого потока такова: вероятность нуля P(0)= 0,9, тогда P(1)=0,1. По таблице
приложения 1 определяем энтропию источника. Н=0,469 бит/символ. Ско-
рость передачи значительно меньше пропускной способности канала. Для
согласования источника с каналом Шеннон предлагает укрупнять коди-
руемые
последовательности. Закодируем сообщения группами из двух
Страницы
- « первая
- ‹ предыдущая
- …
- 71
- 72
- 73
- 74
- 75
- …
- следующая ›
- последняя »