Радиотехнические системы передачи информации. Системы связи. Оценка технической эффективности радиотехнических систем передачи информации и систем связи. Бакеев Д.А. - 8 стр.

UptoLike

Составители: 

Чем меньше априорная вероятность источника, соответст-
вующая символу
i
а , тем большую информацию вносит полу-
этого символа. Количественной мерой информации
)(
i
aI , которую несет символ
i
а , д лжна быть функция, зави-
сящая от априорной вероятности
i
p ого, что источник сооб-
щения в момент передачи символа состоянии,
соответствующем этому сим )(
i
pF
чение
о
т
находится в
а
лу:
i
I
во .)(
i
a
=
Пр этом и
должно выполняться условие 0)1()(
=
=
FaI
i
при 1
=
i
p .
При последовательной передаче символов
i
а
и
j
а условная
вероя ения пары символов определяется выражтность поступл е-
нием
При этом должно выпол ловие .),(
jiji
ppaap =
няться ус
)()()(),(
jijiji
pFpFppFaaI +
=
=
.
Продифференцировав данное уравнение по можно по-
лучить следующую формулу:
обе части на , получим:
Это равенство возможно только в том случа если
i
p ,
)()(
ijj
pFppFp =
//
i
.
i
p
Умножив
)()(
//
iijiji
pFpppFpp = .
е,
const)( == kpF
i
.
Поэтому
i
)(
//
= pppFpp
ijiji
CpkpF
i
+
=
ln)(,
принять
постоянная интегри-
рования. Если
где С
2ln
1
=k , тогда
iii
2ln
Вероятность появления некоторого ко
i
p
p
pFaI log
ln
)()( === .
личества элемен-
тарных сообщений определяется формулой
=
=
m
i
i
pp
1
,
8
      Чем меньше априорная вероятность источника, соответст-
вующая символу аi , тем большую информацию вносит полу-
чение этого символа. Количественной мерой информации
I (ai ) , которую несет символ аi , должна быть функция, зави-
сящая от априорной вероятности pi того, что источник сооб-
щения в момент передачи символа аi находится в состоянии,
соответствующем этому символу: I (ai ) = F ( pi ). При этом
должно выполняться условие I (ai ) = F (1) = 0 при pi = 1 .
      При последовательной передаче символов аi и а j условная
вероятность поступления пары символов определяется выраже-
нием p (ai , a j ) = pi p j . При этом должно выполняться условие

              I ( a i , a j ) = F ( p i p j ) = F ( pi ) + F ( p j ) .

    Продифференцировав данное уравнение по pi , можно по-
лучить следующую формулу:
                         p j F / ( p i p j ) = F / ( pi ) .

    Умножив обе части на pi , получим:
                      p i p j F / ( p i p j ) = pi F / ( p i ) .
    Это равенство возможно только в том случае, если
              pi p j F / ( pi p j ) = pi F / ( pi ) = k = const .

    Поэтому F ( pi ) = k ln pi + C , где С – постоянная интегри-
                                 1
рования. Если принять k = −          , тогда
                                ln 2
                                              ln pi
                I ( ai ) = F ( pi ) = −             = − log pi .
                                               ln 2
    Вероятность появления некоторого количества элемен-
тарных сообщений определяется формулой
                                          m
                                  p=    ∏p
                                         i =1
                                                i   ,

                                         8