ВУЗ:
Составители:
Рубрика:
78
i
a
nH
nH
T
NN 22
max
−=− называются нетипичными, не имеющими
смысла, получившимися в результате ошибки в каком-то слове. Их также
называют
запрещенными кодовыми комбинациями.
Рассмотрим, как изменяется число типичных последовательностей
при изменении
n и
i
a
H . При 1
=
n и буквубитH /5
max
=
все однобуквенные
«слова» должны иметь употребление. Поскольку реально
буквубитH
i
a
/5,1≈ , типичных последовательностей только
32
5,1
=
=
T
N
(при 1=n
max
1,0 HN
T
≈
). Из двухбуквенных слов относительное число ти-
пичных менее
%1 :
10242
52
=
=
⋅
N
. 82
5,12
=
=
⋅
T
N .
Отсюда вывод: с ростом
n , относительное число типичных последо-
вательностей уменьшается, экспоненциально стремясь к нулю при
∞
→n .
Действительно,
n
H
i
a
Hn
nH
i
a
nH
T
N
N
α
−
−
=== 22
2
2
)
max
(
max
, где
α
- разность между
максимальной и реальной удельными энтропиями алфавита, т.е. экспонен-
та тем круче, чем больше избыточность источника .
Использование таких
семантических (т.е. смысловых) понятий как
типичные последовательности, оказалось весьма плодотворным в технике
связи. Если вначале исключить избыточность источника, т.е. сделать
удельную энтропию источника максимальной, а затем специально ее вве-
сти, то практически вся информация об источнике будет передаваться
только типичными последовательностями, причем вероятность каждой та-
кой последовательности будет примерно
одинаковой при данной n , а ве-
роятность каждой нетипичной близка к нулю. Для того чтобы в точке
приема можно было безошибочно отличать типичные последовательности
от нетипичных, они должны иметь соответствующие признаки, которые
диктуются алгоритмом кодирующих устройств. Чем длиннее типичная по-
следовательность, тем ее «портрет» больше отличается от «портрета» не-
типичной последовательности, тем выше корректирующая
способность
кода. Каждая нетипичная, т.е. полученная в результате ошибки последова-
тельность, будет легко обнаружена и ошибка в ней исправлена.
3.7. Пропускная способность непрерывного канала
Пропускная способность непрерывного канала без помех теоретичес-
ки могла быть бесконечной, если бы усилители и другие преобразователи
имели коэффициент передачи, независимый от частоты.
В каналах с помехами скорость передачи ограничена. Для ее оценки
можно использовать такие рассуждения. Пусть в канале действует нор-
мально распределенный сигнал со значением
ccc
PDU == ,
c
D - диспер-
сия сигнала, т.е. его мощность
c
P . Он может быть представлен в виде век-
тора, длина которого зависит и от значения помехи
nnn
PDU == , где
n
D
- дисперсия помехи или ее мощность (рис. 3.6).
Страницы
- « первая
- ‹ предыдущая
- …
- 76
- 77
- 78
- 79
- 80
- …
- следующая ›
- последняя »