Составители:
Рубрика:
44
1
() ( ) ()
lim lim ( ),
→∞ →∞
′
== ==
τ
TT
TT
HS HX H X
RHX
TT
(2.14)
т. е. скорость равняется производительности источника (2.12).
Пропускная способность канала C, характеризующая его потенци-
альные возможности, определяется как верхняя граница (или макси-
мум) скорости передачи информации R. Для дискретного канала без
помех максимальное значение скорости достигается при равновероят-
ных и независимых символах сигнала (2.6)
1max
1
()
() log
()
max max ,
S
px
HS m
HS
C
R== = =
τττ
(2.15)
где m
s
– алфавит кодера канала (сигнала).
В частности, для двоичного канала m
s
= 2 и C = 1/τ численно совпа-
дают со скоростью манипуляции символов в канале. Полное согласова-
ние источника с каналом достигается при R / C = 1, а качество согласо-
вания определяется отношением
1
()
1,
log
S
S
HS
R
Cm
==−
χ
(2.16)
где χ
s
=
1 – H
1
(S) / log m
s
– избыточность сигнала по аналогии с (2. 9).
При заданном канале отношение R/C полностью определяется избы-
точностью сигнала и его удельной энтропией H
1
(S).
Чтобы R / C → 1, следует выбирать такой способ кодирования сооб-
щений источника, при котором H
1
(S) → log m
s
, т. е. в результате коди-
рования должна получаться последовательность, составленная из рав-
новероятных и независимых символов.
Основная теорема кодирования
Вопрос о возможности передачи информации со скоростью, равной
пропускной способности канала без помех, решается положительно при
применении безызбыточного кодирования [(2.16) – при χ
s
= 0]. Это ут-
верждение доказывается одной из основных теорем теории информа-
ции, которая называется теоремой кодирования для источника. Посколь-
ку при этом предполагается, что последовательность кодовых символов
принимается без ошибок, то эту теорему называют также теоремой ко-
дирования для канала без помех.
Страницы
- « первая
- ‹ предыдущая
- …
- 44
- 45
- 46
- 47
- 48
- …
- следующая ›
- последняя »