Лекции по теории информации. Фурсов В.А. - 87 стр.

UptoLike

ВУЗ: 

СГАУ | Самара

Составители: 

Рубрика: 

87
занная с
( )
V
H Z
, которая определяется уровнем шумов в канале. Эта неопреде-
ленность эквивалентна неопределенности выбора из
2
k V
V
N Z
(10.8)
последовательностей. Заметим, что соотношение (10.8) может быть получено
по аналогии с (10.1).
Конкретная последовательность может быть идентифицирована со сколь
угодно малой вероятностью ошибки, если среди
V
N Z
последовательностей
она оказалась единственной разрешенной. Отсюда, в частности, следует, что
любой способ кодирования и декодирования должен заключаться в разбиении
всего множества последовательностей на подмножества, каждое из которых со-
держит лишь одну разрешенную.
Оценим среднюю по всем возможным способам кодирования вероятность
p
того, что ни одна из
1
V
N Z
последовательностей не является разрешен-
ной:
1
1
V
N Z
p p
. (10.9)
Здесь
p
– вероятность (10.7) того, что данная последовательность разрешенная.
Поскольку
1 1
p
, вместо равенства (10.9) можно записать неравенство
1
V
N Z
p p . (10.10)
Разложим правую часть (10.10) в ряд Тейлора в окрестности
0
p
:
2
1
1 1 1 ...
2
V
N Z
V V V
p N Z p N Z N Z p
Можно показать, что члены этого ряда убывают по абсолютной величине. По
признаку Лейбница, если ряд знакопеременный и члены убывают по абсолют-
ной величине, то величина остатка не превышает величину первого отбрасы-
ваемого члена и имеет с ним одинаковый знак.
Таким образом, если ограничиться двумя первыми членами, неравенство
(10.10) только усилится:
1
V
p N Z p
, (10.11)

Страницы