Сборник примеров и задач по теории информации: Руководство для практических занятий на базе Mathcad 6.0 Plus. Кавчук С.В. - 39 стр.

UptoLike

Составители: 

39
чение
m
x
.
0 volt
и дисперсия
D
x
.
16 volt
2
. Величина X измеряется реги-
стрирующим устройством с погрешностью Z, не зависящей от амплитуды
сигнала и также распределенной по нормальному закону со средним значени-
ем
m
z
.
0 volt
и дисперсией
D
z
.
9 volt
2
.
Определить количество информации I(X,Y)=I
XY
о величине X, содер-
жащееся в результатах измерения Y=X+Z.
Ответ. Количество получаемой информации о величине X при регистра-
ции результата измерения Y=X+Z в среднем на одно измерение
I
XY
ln
.
1
D
z
D
x
1
;
=I
XY
0.737 bit
.
Примечание. Среднее количество информации I(X,Y)=I
XY
определяется
разностью энтропий результата измерения H(Y) и погрешности измерения
H(Z) при условии нормального распределения величин Z и Y соответственно с
дисперсиями
D
z
и
D
y
D
x
D
z
.
Задача 2.3.5. По каналу связи с одинаковыми вероятностями передают-
ся
m3 статистически независимых сигнала x
i
(i..1m). При отсутствии
помех передаваемому сигналу x
j
соответствует на выходе канала сигнал y
j
(
j..1m). При наличии помех каждый передаваемый сигнал может быть с
вероятностью
p 0.8 принят правильно и с вероятностью q 1p искажен
и перейти при этом в любой из остальных выходных сигналов.
Определить среднее количество информации на один сигнал, передавае-
мое по каналу при наличии и отсутствии помех.
Ответ. Среднее в расчете на один сигнал количество информации, пере-
даваемое по каналу при отсутствии помех,
I
Y
ln ( )m
;
=I
Y
1.585 bit
.
Среднее количество информации, передаваемое по каналу при наличии помех,
I
XY
ln ( )m
.
pln( )p
.
qln
q
m1
;
=I
XY
0.663 bit
.
Задача 2.3.6. Система передачи информации характеризуется при
m4, q
1
m
2
и ORIGIN 1 матрицей P(X,Y)=Pxy совместных вероятностей