Сборник примеров и задач по теории информации: Руководство для практических занятий на базе Mathcad 6.0 Plus. Кавчук С.В. - 21 стр.

UptoLike

Составители: 

21
p( )u
.
1
m
u
exp
u
m
u
.
Задача 1.3.10
. Определим единицу времени: одна миллисекунда как
ms
.
10
3
sec. Измерительное устройство вырабатывает временные интерва-
лы, распределенные случайным образом с равной вероятностью в пределах от
T
1
.
100 ms
до
T
2
.
500 ms
. Как изменится энтропия случайной величи-
ны при изменении точности измерения
Δ
T1ms
.
. до 1 mks.
Ответ. Энтропия увеличится на величину
=
Δ
H
T
9.966 bit
.
Задача 1.3.11. Информация передается с помощью частотно-
модулированных синусоидальных сигналов, рабочая частота которых изменя-
ется с равной вероятностью в пределах от
f
1
.
10 MHz
до
f
2
.
50 MHz
.
Определить энтропию сигнала, если точность измерения частоты состав-
ляет величину
Δ
f
.
2 KHz .
Ответ. Энтропия сигнала
H
F
ln
f
2
f
1
Δ
f
;
=H
F
14.288 bit
.
Задача 1.3.12. Определить, при каком соотношении между шагами
квантования Δ
н
и Δ
р
квантованные энтропии погрешностей X и Y, распреде-
ленных по нормальному и равномерному законам распределения, равны.
Ответ.
Δ
н
Δ
р
π
e
.
6
σ
н
σ
р
.
Δ
р
.
,
где σ
н
и σ
р
среднеквадратические отклонения нормального и равномерного
распределений.
Задача 1.3.13. Две независимых случайных погрешности Δ
1
и Δ
2
рас-
пределяются с равной вероятностью на интервале [-Δ
m
, Δ
m
], где
Δ
m
1 volt
.
.
Найти дифференциальную энтропию суммарной погрешности
Δ
Σ
=Δ
1
+Δ
2
.
Ответ. При шаге квантования
ε
1 volt
.
дифференциальная энтропия
Hд
Δ
Σ
ln 2
Δ
m
ε
.
e
.
;
Hд
Δ
Σ
1.721 bit
=
.