Сборник примеров и задач по теории информации: Руководство для практических занятий на базе Mathcad 6.0 Plus. Кавчук С.В. - 32 стр.

UptoLike

ВУЗ: 

ТТИ ЮФУ | Таганрог

Составители: 

Рубрика: 

32
d
∞
∞
ξ
p
усл.1
(),
ξ
x1
.
Рассмотрим условную плотность вероятности p
2
(y/x)=q
2
(y,x)/p
1
(x) для
реализации y(t) при известной реализации x(t). В общем случае знание x(t)
дает также некоторую информацию о реализации y(t). Условная плотность
вероятности p
2
(y/x) содержит больше (по крайней мере, не меньше) сведений
о y(t), чем безусловная плотность вероятности p
3
(y), так как
p
3
()y
=
dxq
2
(),yx
.
Насколько увеличивается информация о y(t) в результате того, что стала
известной реализация x(t), зависит от конкретных условий. В нашем случае,
когда y(t)=x(t)+ξ(t), информация о y(t) вообще не прибавляется, какой бы ни
оказалась реализация x(t). Другими словами, при известной величине "x" не-
определенность (случайный характер) величины "y" полностью определяется
случайной помехой ξ. Это значит, что условная плотность вероятности
p
2
(y/x)
равна закону распределения помехи p
2
(ξ) при ξ=y-x, т.е.
p
усл.2
(),yx
.
1
.
σ
ξ
.
2
π
exp
()yx
2
.
2
σ
ξ
2
.
Из определения условной плотности вероятности следует совместная
плотность вероятности сигналов Y(t) и X(t)
q
2
(),yx
.
p
1
()xp
усл.2
(),yx
, т.е.
q
2
(),yx
..
1
.
σ
x
.
2
π
exp
x
2
.
2
σ
x
2
.
1
.
σ
ξ
.
2
π
exp
()yx
2
.
2
σ
ξ
2
;
или после преобразований
q
2
(),yx
.
1
..
2
π
.
σ
x
σ
ξ
exp
x
2
.
2
σ
x
2
y
2
.
2
σ
ξ
2
.
yx
σ
ξ
2
x
2
.
2
σ
ξ
2
.
Найдем на основании (2.8) или (2.7) при замене вероятностей P(y
j
/x
i
),
P(y
j
) соответствующими плотностями вероятности p
2
(y/x), p
3
(y) количество
информации I(y,x), которое содержится в зарегистрированной реализации y(t)
сигнала Y(t) о реализации x(t) полезного сигнала X(t)

Страницы