ВУЗ:
Составители:
Рубрика:
49
97505,6150085log5030log
22
=−=⋅−=⋅= mnH
c
бит..
Следовательно, при равновероятном появлении любого из 85
символов принятого алфавита в любой из 1500 позиций документа
количество информации, содержащейся в нем, составит 9750 бит.
На практике вероятность появления разных символов алфавита в
сообщениях, в частности в управленческой документации, неодинакова.
Буквы, цифры и служебные знаки используются с разной частотой. При
неравновероятном появлении символов алфавита количество информа-
ции в сообщении определяется по формуле
∑
=
−=
m
i
ii
ppnI
1
2
log
(5.4)
где p
i
- вероятность появления i-то символа данного алфавита в
сообщении (1іp
i
і0).
Нетрудно убедиться в связи формул (5.3) и (5.4). При равнове-
роятном появлении символов алфавита в сообщении, т.е. при p
1
= p
2
= ... p
i
... = p
m
=
m
1
, формула (5.4) переходит в формулу (5.3). Минус
в формуле (5.4) не означает, что информация выражается отрица-
тельной величиной. Вероятность p
i
находится в пределах 1і p
i
і0 Ло-
гарифм такого числа (дроби) всегда величина отрицательная. По-
этому величина результата, количество информации I будет поло-
жительной. Формула (5.4) позволяет определить количество инфор-
мации в сообщении при неравновероятном появлении символов ал-
фавита m в любой из позиций сообщения. Если учесть, что разряд-
ность сообщения составит п позиций, то для определения количе-
ства информации в одной из п позиций, можно получить
∑
=
==
m
i
ii
pp
n
Н
1
2
.log
1
(5.5)
Эта формула используется для определения количества инфор-
мации, которое содержится в сообщении о результатах того или иного
единичного события. Формула была предложена основоположником тео-
рии информации К.Шенноном.
В основе изложенного способа-измерения количества информа-
ции лежат понятия вероятности и неопределенности исхода события.
Событием называют фиксируемую наблюдателем количественную или
PDF created with pdfFactory Pro trial version www.pdffactory.com
H c = n ⋅ log 2 m = 30 − 50 ⋅ log 2 85 = 1500 − 6,5 = 9750 бит..
Следовательно, при равновероятном появлении любого из 85
символов принятого алфавита в любой из 1500 позиций документа
количество информации, содержащейся в нем, составит 9750 бит.
На практике вероятность появления разных символов алфавита в
сообщениях, в частности в управленческой документации, неодинакова.
Буквы, цифры и служебные знаки используются с разной частотой. При
неравновероятном появлении символов алфавита количество информа-
ции в сообщении определяется по формуле
m
I = − n∑ pi log 2 pi (5.4)
i =1
где pi - вероятность появления i-то символа данного алфавита в
сообщении (1іpiі0).
Нетрудно убедиться в связи формул (5.3) и (5.4). При равнове-
роятном появлении символов алфавита в сообщении, т.е. при p1 = p2
1
= ... pi... = pm = , формула (5.4) переходит в формулу (5.3). Минус
m
в формуле (5.4) не означает, что информация выражается отрица-
тельной величиной. Вероятность pi находится в пределах 1і pi і0 Ло-
гарифм такого числа (дроби) всегда величина отрицательная. По-
этому величина результата, количество информации I будет поло-
жительной. Формула (5.4) позволяет определить количество инфор-
мации в сообщении при неравновероятном появлении символов ал-
фавита m в любой из позиций сообщения. Если учесть, что разряд-
ность сообщения составит п позиций, то для определения количе-
ства информации в одной из п позиций, можно получить
1 m
Н= = ∑ pi log 2 pi . (5.5)
n i =1
Эта формула используется для определения количества инфор-
мации, которое содержится в сообщении о результатах того или иного
единичного события. Формула была предложена основоположником тео-
рии информации К.Шенноном.
В основе изложенного способа-измерения количества информа-
ции лежат понятия вероятности и неопределенности исхода события.
Событием называют фиксируемую наблюдателем количественную или
49
PDF created with pdfFactory Pro trial version www.pdffactory.com
Страницы
- « первая
- ‹ предыдущая
- …
- 47
- 48
- 49
- 50
- 51
- …
- следующая ›
- последняя »
