Сборник примеров и задач по теории информации: Руководство для практических занятий на базе Mathcad 6.0 Plus. Кавчук С.В. - 30 стр.

UptoLike

ВУЗ: 

ТТИ ЮФУ | Таганрог

Составители: 

Рубрика: 

30
PB
A
,ji
P
AB
,ij
P
A
i
;
=PB
A
0.824
0.176
0.333
0.667
;
Элементы матрицы:
=PB
A
,11
0.824 ; =PB
A
,21
0.176 ;
=PB
A
,12
0.333 ; =PB
A
,22
0.667 .
Согласно (2.3), количество информации о режиме работы станции, кото-
рое содержится в сообщении о длине ее волны,
I(A,B)=H(B)-H(B/A).
На основании (2.4) можно записать
I
AB
=1
2
i =1
2
j
.
P
AB
,ij
ln
PB
A
,ji
P
B
j
;
=I
AB
0.102 bit
.
Пример 2.2.4. На вход регистрирующего устройства поступает случай-
ный сигнал Y(t)= X(t)+ξ(t), где полезный сигнал X(t) и помеха ξ(t) − независи-
мые случайные процессы с нулевым средним значением и среднеквадратич-
ными отклонениями
σ
x
.
0.5 volt
и
σ
ξ
.
0.1 volt
.
Требуется определить:
а) количество информации I(y,x), которое содержится в зарегистрированной
реализации y(t) сигнала Y(t) о реализации x(t) полезного сигнала X(t);
б) полную среднюю взаимную информацию I(Y,X), получаемую при реги-
страции процесса Y(t) о полезном процессе X(t).
Решение. Предварительно определим единицы измерения количества
информации:
•
при натуральном логарифме (нит) − nit ln ( )e ;
•
при двоичном логарифме (бит) − bit
.
nit ln ( )2 .
По условию задачи:
1) плотность вероятности нормального полезного сигнала
p
1
()x
.
1
.
σ
x
.
2
π
exp
x
2
.
2
σ
x
2
;
2) плотность вероятности нормальной помехи
p
2
()
ξ
.
1
.
σ
ξ
.
2
π
exp
ξ
2
.
2
σ
ξ
2
.
Сумма Y(t) двух нормальных процессов X(t) и ξ(t) является также нор-
мальным процессом. Так как X(t) и ξ(t) − независимы, то дисперсия суммарно-

Страницы