Основы кодирования сообщений в системах связи. Никитин Г.И. - 64 стр.

UptoLike

Составители: 

Рубрика: 

62
мых и равновероятных букв; осмысленный русский текст; только поздра-
вительные телеграммы; цифры в случайной последовательности.
21. При переводе русского текста на английский число букв в сред-
нем уменьшается в 1,3 раза. При переводе того же текста на финский
язык число букв возрастает примерно в 1,4 раза. Найдите соотношение
энтропий данных иностранных языков к русскому, и английского к фин-
скому.
22. Определите относительную энтропию двух сообщений: аббревиа-
туры – ЛИАП; полного развернутого наименования института без со-
кращений. Оцените избыточность второго сообщения.
23. Фокусник в присутствии зрителей распечатывает новую ко-
лоду игральных карт, содержащую 32 листа. Перемешав карты, он
вынимает из колоды одну карту. Какое количество информации (по
пп. 1–7) получает зритель, если: 1) вынутая карта предъявляется
зрителям и оказывается "пиковой дамой"; 2) вынутая карта не
предъявляется зрителям, но по достоверному утверждению фокус-
ника является "дамой"; 3) вслед за этим (п. 2) карта показывается
зрителям и оказывается "дамой пик"; 4) после предъявления зрите-
лям (п. 3) карта возвращается в колоду, которая перемешивается,
после чего из нее вновь извлекается "дама пик"; 5) предъявленная
"дама пик" не возвращается в колоду, а откладывается, и из колоды
снова достается "пиковая дама"; 6) отложенная ранее карта (п. 5)
показывается зрителям и действительно оказывается "пиковой да-
мой"; 7) отложенная карта (п. 5) оказывается "тройкой". Поясните
с позиции зрителя, знакомого с основами теории информации, в
чем суть фокусов.
24. Закодировать двоичным кодом Шеннона – Фано множество из пяти
сообщений с вероятностями p
1
= 0,4; p
2
= p
3
= p
4
= p
5
= 0,15. Оценить
среднюю длину кодовых слов
n
. Закодировать сообщения этого же
источника кодом Хафмена, определить среднюю длину кодовых слов
n
. Сравнить результаты кодирования по этим двум методам и сделать
выводы.