Сборник примеров и задач по теории информации: Руководство для практических занятий на базе Mathcad 6.0 Plus. Кавчук С.В. - 20 стр.

UptoLike

ВУЗ: 

ТТИ ЮФУ | Таганрог

Составители: 

Рубрика: 

20
=Px
0.556
0.333
0.111
При этом энтропия квантованного сигнала
=HX
X
0.913 bit
.
Задача 1.3.6. Аналоговый сигнал U(t) на выходе датчика имеет посто-
янную составляющую
μ
.
3 volt
и ограничен по мощности при параметре
σ
u
.
1.5 volt
значением
P
σ
u
2
. Выходной сигнал носит случайный харак-
тер и распределен по нормальному закону распределения.
Определить дифференциальную энтропию выходного сигнала.
Ответ. При шаге квантования
Δ
u
.
1 volt
дифференциальная энтропия
H
дU
ln
.
σ
u
Δ
u
..
2
π
e
и составляет
=H
дU
2.632 bit
.
Задача 1.3.7. Найти условные дифференциальные энтропии H
д
(X/Y) и
H
д
(Y/X) для суммы нормальных и зависимых случайных величин X и Y, если
их среднеквадратические отклонения
σ
x
.
3 volt
,
σ
y
.
5 volt
и коэффици-
ент корреляции
r 0.5 .
Ответ. При
Δ
u
.
1 volt
условные дифференциальные энтропии
HдX
Y
ln
.
σ
x
Δ
x
...
2
π
e( )1r
2
,
=HдX
Y
3.425 bit
;
HдY
X
ln
.
σ
y
Δ
y
...
2
π
e( )1r
2
,
=HдY
X
4.162 bit
.
Задача 1.3.8. Аналоговый сигнал u(t) на выходе непрерывного источ-
ника ограничен по уровню значениями U
1
и U
2
. Найти дифференциальный
закон распределения, обеспечивающий максимальную относительную энтро-
пию.
Ответ. Равномерное на интервале [U
1
, U
2
] распределение.
Задача 1.3.9. Аналоговый сигнал u(t) на выходе датчика принимает
только положительные значения, т.е. его плотность вероятности p(u)=0 при
u<0. Среднее значение сигнала неизменно (математическое ожидание
m
u
.
1 volt
).
Найти дифференциальный закон распределения, обеспечивающий мак-
симальную относительную энтропию.
Ответ. Экспоненциальное распределение с плотностью вероятности
.

Страницы