Лекции по теории информации. Фурсов В.А. - 88 стр.

UptoLike

ВУЗ: 

СГАУ | Самара

Составители: 

Рубрика: 

88
где
p
– вероятность, определяемая в (10.7). Прежде чем осуществить ее замену
в (10.11), несколько преобразуем (10.7). Для этого воспользуемся неравенством
(10.5), которое представим в виде
2
log ( ) ( )
V
к и к
T T T
m H Z H Z
. (10.12)
Добавив в правую часть (10.12) некоторое положительное число
это неравен-
ство превратим в равенство:
2
log ( ) ( )
V
к и к
m H Z H Z
T T
. (10.13)
Наконец, заменив показатель степени двойки в (10.7) правой частью из (10.13)
получим:
( )
( )
1 1 1
2
2 2
2
V
V
к
к
TH Z
T
H Z
T
V
T
p
N Z
. (10.14)
Подставив полученное значение вероятности
p
в (10.11), получаем
1
1
2
T
p
. (10.15)
Напомним, что
p
– вероятность того, что ни одна из
1
V
N Z
не является
разрешенной (следовательно, одна из
V
N Z
последовательностей является
разрешенной). Тогда вероятность ошибки:
1 2
T
ош
p p
. (10.16)
Из (10.16) видно, что
0
ош
p
при
T
. Таким образом, всегда можно по-
добрать длину последовательности такую, что средняя вероятность ошибки
окажется сколь угодно малой по всем способам кодирования. Вторую часть
теоремы примем без доказательства.
Теорема имеет важное теоретическое значение. Хотя в ней не объясняется,
как строить коды, она обосновывает принципиальную возможность построения
кодов, обеспечивающих передачу с как угодно высокой точностью. Теорема
опровергает интуитивно казавшееся правильным предположение, что безоши-
бочная передача в канале с помехами невозможна. Из (10.16) следует, что при

Страницы