Теоретические основы автоматизированного управления. Файзрахманов Р.А - 72 стр.

UptoLike

ВУЗ: 

ПНИПУ | Пермь

Составители: 

Рубрика: 

72
∑∑
==
−=
n
i
ji
m
j
ji
yxPyxPYXH
1
2
1
),(log),(),(
(14.9)
Так как для рассматриваемого случая ),/()(),(
ijiji
xyPxPyxP
=
то:
),/()(
)/(log)/()()/()(log)(
)]/(log)([log)/()(
)]/()([log)/()(),(
1
2
111
2
22
11
1
2
1
XYHXH
xyPxyPxPxyPxPxP
xyPxPxyPxP
xyPxPxyPxPYXH
n
i
ijij
m
j
i
n
i
ij
m
j
ii
iji
n
i
iji
m
j
n
i
iji
m
j
iji
+=
=−−=
=+−=
=−=
∑∑∑∑
∑∑
∑∑
====
==
==
(14.10)
т.е. совместная энтропия сигналов двух различных источников
X и Y рав-
на сумме безусловной )(X
H
и условной )
/
( X
Y
H
энтропий.
Рассмотрим сигнал с равновероятными и независимыми отсчетами.
Пусть отображением некоторого сообщения, поступающего от источника
информации, является квантованный по уровню и времени электрический
сигнал (рис. 14.1), имеющий m различимых состояний по уровню (отсче-
тов):
,/100/)(
minmax
δ
=
Δ
−
= SSSm
(14.11)
где
minmax
SS − – диапазон изменения сигнала;
S
Δ
– шаг квантования;
–
соответствующая ему погрешность в процентах.
Рис. 14.1
Условимся, что за любой интервал времени
t
Δ
, соответствующий
шагу квантования по времени, может быть снят только один отсчёт (эле-
мент сигнала). При этом с равной вероятностью может появляться любой
из квантованных уровней сигнала. Полагаем, что отсчеты (элементы) сиг-
2
1
i
0
S
0
n
)(
m
SP
m
S
m
n
)(
j
SP
j
S
j
n
S
Δ
tΔ
)(tS
j
m
1 2
)(
0
SP
n
0 
                                                       n m
                                 H ( X , Y ) = − ∑ ∑ P ( xi , y j ) log 2 P ( xi , y j )         (14.9)
                                                     i =1 j =1
Так как для рассматриваемого случая P ( xi , y j ) = P ( xi ) P( y j / xi ), то:

                  n m
 H( X ,Y ) = −∑ ∑ P(xi )P( y j / xi ) log2[P(xi )P( y j / xi )] =
                 i=1 j =1
     n m
 = −∑ ∑ P(xi )P( y j / xi )[log2 P(xi ) + log2 P( y j / xi )] =
     i=1 j=1                                                                                    (14.10)
     n                      m                    n               m
 = −∑ P(xi ) log2 P(xi ) ∑ P( y j / xi ) − ∑ P(xi ) ∑ P( y j / xi ) log2 P( y j / xi ) =
     i=1                    j=1                  i=1             j =1

 = H( X ) + H(Y / X ),

т.е. совместная энтропия сигналов двух различных источников X и Y рав-
на сумме безусловной H ( X ) и условной H (Y / X ) энтропий.
       Рассмотрим сигнал с равновероятными и независимыми отсчетами.
Пусть отображением некоторого сообщения, поступающего от источника
информации, является квантованный по уровню и времени электрический
сигнал (рис. 14.1), имеющий m различимых состояний по уровню (отсче-
тов):
                      m = ( S max − S min ) / ΔS = 100 / δ,     (14.11)
где S max − S min – диапазон изменения сигнала; ΔS – шаг квантования; δ –
соответствующая ему погрешность в процентах.

               S (t )

           m                                                                 P( Sm )       Sm   nm

           j                                                                 P(S j )       Sj   nj

                                                                        ΔS
           2
           1
                            Δt                                               P( S 0 )      S0   n0
           0            1            2       i               n

                                                         Рис. 14.1

      Условимся, что за любой интервал времени Δt , соответствующий
шагу квантования по времени, может быть снят только один отсчёт (эле-
мент сигнала). При этом с равной вероятностью может появляться любой
из квантованных уровней сигнала. Полагаем, что отсчеты (элементы) сиг-


                                                                                                     72

Страницы