Сборник примеров и задач по теории информации: Руководство для практических занятий на базе Mathcad 6.0 Plus. Кавчук С.В. - 9 стр.

UptoLike

Составители: 

9
p( )x
.
1
.
2
α
exp
x
α
; =p( )
.
0.5 volt 0.368 volt
1
.
Максимальное значение воздействия составляет
x
m
.
1.6 volt
. Сигнал
дискретизирован по времени с шагом
Δ
t
.
0.3 sec и имеет длительность
T
.
30 sec.Определить энтропию сигнала.
Решение. Предварительно определим единицы измерения количества
информации:
а) при натуральном логарифме (нит)
nit ln ( )e ;
б) при двоичном логарифме (бит)
bit
.
nit ln ( )2 .
График плотности вероятности в виде ступенчатой функции, соответст-
вующей шагу квантования δ, приведен на рис.1.2.1 при
i..0N и
x
i
x
m
.
i
δ
.
2 1 0 1 2
1
Ступенчатый график плотности вероятности
volt
1 / volt
p x
i
.
2
δ
.
2
δ
x
i
Рис.1.2.1
Определим вероятности появления уровней сигнала
Px
i
d
x
i
x
i
δ
xp( )x
;
=Px
9
0.11
по приближенной формуле
Px
i
.
p
x
i
δ
;
=Px
9
0.134
Согласно (1.1), энтропия или средняя неопределенность одного дискрет-
ного значения задающего воздействия
H1
X
=0
N
i
.
Px
i
ln Px
i
;
=H1
X
3.488 bit
.
.
.