Теория передачи сигналов. Женко Л.А. - 19 стр.

UptoLike

ВУЗ: 

СамГУПС | Самара

Составители: 

Рубрика: 

19
При неравновероятности сообщений канал оказывается несогласованным с
источником информации, в результате чего он не используется в полной мере.
Например, если на вход двоичного дискретного канала поступают преимущественно
нули, то реле, выступающее в роли дискретного демодулятора, практически всегда
находится в обесточенном состоянии, т.е. без дела. Наоборот, в случае передач
одних единиц
реле будет под током всегда, и его можно было бы не ставить,
закоротив выход канала. Таким образом, если считать, что скорость передачи через
дискретный канал есть среднее количество информации, проходящее через канал в
единицу времени, то в рассмотренных случаях она мала. С другой стороны
максимальная пропускная способность ДК определяется через
полосу пропускания
непрерывного канала
k
f
Δ
(см. п. 2.8) и может быть определена:
0
max
1
2
τ
=Δ==
kkk
fVC бит,
где
0
τ
- длительность одного символа.
Такая пропускная способность ДК будет реализована тогда, когда среднее
количество информации, приходящееся на символ источника тоже максимально,
например, если удельная энтропия двоичного источника равна 1 бит/символ.
Если энтропия
i
a
H источника меньше, канал недогружен даже в том случае,
когда через него проходит
k
fΔ2 символов в секунду. Производительность источника
R будет меньше пропускной способности канала С.
Шеннон показал, что можно сообщения источника закодировать так, что
среднее количество информации, приходящееся на символ источника, будет близко
к максимальному. Это положение сформулировано в
теореме Шеннона о
кодировании для каналов без помех. Если производительность источника R
меньше пропускной способности канала C
k
, его сообщения можно
закодировать так, что скорость передачи может быть как угодно близка к
пропускной способности канала
.
В соответствии с определением, R
=
T
H
a
ι
,
где
∑
−=
N
aaa
iii
PPH
1
log - энтропия
источника,
T
- средняя продолжительность кодовой комбинации:
∑
=
N
ia
nPT
i
1
0
τ
, здесь
i
n - длина i-ой кодовой комбинации.
Отсюда,
00
1
log
τ
=
τ
−
=
∑
∑
ia
aa
nP
PP
R
i
ii
.
Для выполнения равенства необходимо, чтобы
i
ai
Pn log
−
=
, т.е. кодирование
нужно осуществить так, чтобы длину кодовых комбинаций сообщений ставить в
зависимость от количества информации, которое переносится данным сообщением
или от вероятности данного сообщения. Часто встречающиеся, т.е.
малоинформативные сообщения, следует кодировать короткими комбинациями,
редко встречающиеся - длинными. В этом случае в среднем все сообщения
источника будут закодированы меньшим
числом символов, чем при любом другом
способе кодирования. По этой причине данный код называется
оптимальным или

Страницы