ВУЗ:
Составители:
Рубрика:
75
).()(),( yHxHyxH
=
=
В случае помех возникает неопределенность, т.к. последовательность
символов, создаваемая источником, может претерпевать искажения в трак-
те передачи.
Условные энтропии источника и приемника обусловлены действием
помех. Величина )|( y
x
H
характеризует скорость «утечки» информации, а
)|(
x
y
H
скорость получения ненужной, вредной информации. В результате
энтропия источника уменьшается, и часть информации до приемника не
доходит.
)|(
x
y
H
- условная энтропия y приемника относительно передатчика
x
или мера количества информации в приемнике, когда известно, что
передается (априорная энтропия), )|( y
x
H
- условная энтропия
передатчика
x
относительно приемника y или мера количества
информации в передатчике, когда известно, что принимается
(апостериорная энтропия). И то и другое действие этих энтропий
негативно, они
уменьшают объем передаваемой информации, их
называют
ненадежностью передачи или шумом. Совместная энтропия:
).|()()|()(),(
x
y
H
y
H
y
x
H
x
H
y
x
H
−
=
−
=
Рис. 3.3 иллюстрирует процесс передачи информации по каналу с
помехами.
Рис. 3.3
Будем считать, что )|()|( y
x
H
x
y
H
=
- ненадежность связи.
Рассмотрим, как изменяется скорость передачи или пропускная спо-
собность канала
k
C в зависимости от ненадежности, которая определяется
вероятностью ошибки в канале. Для количественной оценки величины по-
терь за счет ошибок необходимо рассмотреть два бинарных события - воз-
можность ошибочного приема с вероятностью ошибки
0
P и возможность
безошибочного приема с вероятностью
0
1 P
−
.
∑
−
−
−
−
=
−= )1log()1(loglog)|(
0000
PPPPPPyxH
i
a
i
a
,
это выражение максимально при
5,01
00
=
−
=
PP .
Если передача ведется двоичным алфавитом (1,0), то
0
max
1
τ
=
k
C . Но в
канале с помехами
,
)|(1
0
τ
yxH
C
k
−
=
0
0000
)1log()1(log1
τ
PPPP
C
k
−
−
+
+
= . (3.4)
)(xH
)( yH
)|( yxH
)|( xyH
Страницы
- « первая
- ‹ предыдущая
- …
- 73
- 74
- 75
- 76
- 77
- …
- следующая ›
- последняя »