Сборник примеров и задач по теории информации: Руководство для практических занятий на базе Mathcad 6.0 Plus. Кавчук С.В. - 15 стр.

UptoLike

Составители: 

15
Hд
Δ
Σ
(),ab
.
ab
a
ln
1
()
.
2a
.
b
.
2a
.
2ln
1
()
.
2a
1ln()
ε
или после преобразований в окончательной форме
Hд
Δ
Σ
b
.
2a
ln
.
2
a
ε
;
=Hд
Δ
Σ
3.361 bit
.
Пример 1.2.7. Случайный сигнал U(t) на выходе аналогового датчика
ограничен по мощности при среднеквадратическом отклонении
σ
.
1.5 volt
значением
P
σ
2
.
Найти дифференциальный закон распределения, обеспечивающий мак-
симальную относительную энтропию.
Решение. Средняя мощность стационарного случайного процесса опре-
деляет дисперсию случайной величины U в сечении процесса для момента
времени t, т.е.
DP. Таким образом, среди всех законов распределения p(u)
непрерывной случайной величины U с одной и той же дисперсией D нужно
найти закон распределения, максимизирующий, согласно (1.8), интеграл вида
d
u
.
p( )uln( )p( )u .
Согласно теореме вариационного исчисления для нахождения функции
y=y(x), дающей экстремум интеграла
d
a
b
xF( ),xy
при дополнительных условиях
d
a
b
x
ψ
s
(),xy c
s
(s=1,2,...,m),
необходимо решить (не дифференциальное) уравнение Эйлера
d
dy
F
1
0
,
где
F
1
F
=1
m
s
.
λ
s
ψ
s
, а постоянные величины
λ
s
определяются с
помощью заданных дополнительных условий.
В данном примере нужно найти максимум интеграла