Сборник примеров и задач по теории информации: Руководство для практических занятий на базе Mathcad 6.0 Plus. Кавчук С.В. - 19 стр.

UptoLike

Составители: 

19
Определить энтропии H(X), H(Y), H(X/Y), H(Y/X), H(X/y
1
), H(Y/x
2
),
H(X,Y).
Ответ.
=H
X
1.561 bit
;
=H
Y
1.561 bit
;
=H
XY
3 bit
;
=HX
Y
1.439 bit
;
=HY
X
1.439 bit
;
=HY
x
2
1 bit; =HX
y
1
1.585 bit.
Задача 1.3.5. Случайный сигнал имеет с параметрами q6,
λ
.
2 volt
1
,
μ
.
9 volt
плотность вероятности
p( )x
q
.
λ
x
μ
, 0x
.
3 volt
и квантуется по уровню с шагом квантования
Δ
x
.
1 volt (рис.1.3.1, где
p
kv
(x) плотность вероятности квантованного сигнала).
0 0.5 1 1.5 2 2.5 3
1
p
kv
()x
p( )x
x
Рис.1.3.1
Найти энтропию квантованного сигнала, если условные вероятности
уровней заданы при
ORIGIN 1 матрицей
Px
x
9
11
2
11
0
1
8
3
8
1
2
0
2
9
7
9
, =Px
x
,32
0.5
Ответ. Для указанного на рис.1.2.2 способа квантования матрица безус-
ловных вероятностей уровней будет
.