Составители:
Рубрика:
Чем меньше априорная вероятность источника, соответст-
вующая символу
i
а , тем большую информацию вносит полу-
этого символа. Количественной мерой информации
)(
i
aI , которую несет символ
i
а , д лжна быть функция, зави-
сящая от априорной вероятности
i
p ого, что источник сооб-
щения в момент передачи символа состоянии,
соответствующем этому сим )(
i
pF
чение
о
т
находится в
а
лу:
i
I
во .)(
i
a
=
Пр этом и
должно выполняться условие 0)1()(
=
=
FaI
i
при 1
=
i
p .
При последовательной передаче символов
i
а
и
j
а условная
вероя ения пары символов определяется выражтность поступл е-
нием
При этом должно выпол ловие .),(
jiji
ppaap =
няться ус
)()()(),(
jijiji
pFpFppFaaI +
=
=
.
Продифференцировав данное уравнение по можно по-
лучить следующую формулу:
обе части на , получим:
Это равенство возможно только в том случа если
i
p ,
)()(
ijj
pFppFp =
//
i
.
i
p
Умножив
)()(
//
iijiji
pFpppFpp = .
е,
const)( == kpF
i
.
Поэтому
i
)(
//
= pppFpp
ijiji
CpkpF
i
+
=
ln)(,
принять
постоянная интегри-
рования. Если
где С –
2ln
1
−=k , тогда
iii
2ln
Вероятность появления некоторого ко
i
p
p
pFaI log
ln
)()( −=−== .
личества элемен-
тарных сообщений определяется формулой
∏
=
=
m
i
i
pp
1
,
8
Чем меньше априорная вероятность источника, соответст- вующая символу аi , тем большую информацию вносит полу- чение этого символа. Количественной мерой информации I (ai ) , которую несет символ аi , должна быть функция, зави- сящая от априорной вероятности pi того, что источник сооб- щения в момент передачи символа аi находится в состоянии, соответствующем этому символу: I (ai ) = F ( pi ). При этом должно выполняться условие I (ai ) = F (1) = 0 при pi = 1 . При последовательной передаче символов аi и а j условная вероятность поступления пары символов определяется выраже- нием p (ai , a j ) = pi p j . При этом должно выполняться условие I ( a i , a j ) = F ( p i p j ) = F ( pi ) + F ( p j ) . Продифференцировав данное уравнение по pi , можно по- лучить следующую формулу: p j F / ( p i p j ) = F / ( pi ) . Умножив обе части на pi , получим: p i p j F / ( p i p j ) = pi F / ( p i ) . Это равенство возможно только в том случае, если pi p j F / ( pi p j ) = pi F / ( pi ) = k = const . Поэтому F ( pi ) = k ln pi + C , где С – постоянная интегри- 1 рования. Если принять k = − , тогда ln 2 ln pi I ( ai ) = F ( pi ) = − = − log pi . ln 2 Вероятность появления некоторого количества элемен- тарных сообщений определяется формулой m p= ∏p i =1 i , 8
Страницы
- « первая
- ‹ предыдущая
- …
- 6
- 7
- 8
- 9
- 10
- …
- следующая ›
- последняя »