Кодирование информации. Шикина В.Е. - 8 стр.

UptoLike

ВУЗ: 

УлГТУ | Ульяновск

Составители: 

Рубрика: 

5
1.3. Кодирование блоками
Рассмотрим сообщения, образованные с помощью алфавита, состоящего
всего из двух букв z
1
и z
2
с вероятностями появления соответственно
p(z
1
)=0,9 и p(z
2
)=0,1.
Поскольку вероятности не равны, то последовательность из таких букв
будет обладать избыточностью. Однако при побуквенном кодировании
никакого эффекта не получается.
Действительно, на передачу каждой буквы требуется символ либо 1,
либо 0, в то время как энтропия равна 0,47.
При кодировании блоков, содержащих по две буквы, получим коды,
показанные в табл. 1.3.
Табл.
1.3
Блоки Вероятности
Кодовые
комбинации
Ступень
разбиения
z
1
z
1
0,81 1
z
1
z
2
0,09 01 I
z
2
z
1
0,09 001 II
z
2
z
2
0,01 000 III
Так как буквы статистически не связаны, вероятности блоков
определяются как произведение вероятностей составляющих букв.
Среднее число символов на блок получается равным 1,29, а на букву
0,645.
Кодирование блоков, содержащих по три буквы, дает еще больший
эффект. Соответствующий ансамбль и коды приведены в табл. 1.4.
Табл. 1.4
Блоки Вероятности
Кодовые
комбинации
Ступень
разбиения
z
1
z
1
z
1
0,729 1
z
2
z
1
z
1
0,081 011
I
z
1
z
2
z
1
0,081 010 III
z
1
z
1
z
2
0,081 001 II
z
2
z
2
z
1
0,009 00011 IV
z
2
z
1
z
2
0,009 00010 VI
z
1
z
2
z
2
0,009 00001
V
z
2
z
2
z
2
0,001 00000 VII

Страницы