ВУЗ:
Составители:
20
m - основание системы счисления (разнообразие символов
алфавита);
n - число разрядов (символов) в сообщении.
Рассмотрим пример. По каналу связи передается n-разрядное
сообщение, использующее m различных символов. Так как количество
всевозможных кодовых комбинаций будет
n
mN = , то при
равновероятности появления любой из них количество информации,
приобретенной абонентом в результате получения сообщения, будет
mlognNlogI ==
. Это формула Хартли.
Если в качестве основания логарифма принять m, то I=n. В данном
случае количество информации (при условии полного априорного
незнания абонентом содержания сообщения) будет равно объему данных
I=V
Д
, полученных по каналу связи. Для неравновероятных состояний
системы всегда I<V
Д
= n.
Наиболее часто используются двоичные и десятичные логарифмы.
Единицами измерения в этих случаях будут соответственно бит и дит.
Коэффициент информативности (лаконичность) сообщения
определяется отношением количества информации к объему данных, т.е.
Д
V
I
Y =
, причем
10
≤
<
Y
.
С увеличением Y уменьшаются объемы работы по преобразованию
информации (данных) в системе. Поэтому стремятся к повышению
информативности, для чего разрабатываются специальные методы
оптимального кодирования информации.
Семантическая мера информации. Для измерения смыслового
содержания информации, т.е. ее количества на семантическом уровне,
наибольшее признание получила тезаурусная мера, которая связывает
семантические свойства информации
со способностью пользователя
принимать поступившее сообщение. Для этого используется понятие
тезаурус пользователя.
Тезаурус — это совокупность сведений, которыми располагает
пользователь или система.
В зависимости от соотношений между смысловым содержанием
информации S и тезаурусом пользователя S
p
изменяется количество
семантической информации I
с
, воспринимаемой пользователем и
включаемой им в дальнейшем в свой тезаурус. Характер такой
зависимости показан на рисунке. Рассмотрим два предельных случая,
когда количество семантической информации I
с
равно 0:
m - основание системы счисления (разнообразие символов алфавита); n - число разрядов (символов) в сообщении. Рассмотрим пример. По каналу связи передается n-разрядное сообщение, использующее m различных символов. Так как количество всевозможных кодовых комбинаций будет N = mn , то при равновероятности появления любой из них количество информации, приобретенной абонентом в результате получения сообщения, будет I = log N = n log m . Это формула Хартли. Если в качестве основания логарифма принять m, то I=n. В данном случае количество информации (при условии полного априорного незнания абонентом содержания сообщения) будет равно объему данных I=VД, полученных по каналу связи. Для неравновероятных состояний системы всегда I
Страницы
- « первая
- ‹ предыдущая
- …
- 18
- 19
- 20
- 21
- 22
- …
- следующая ›
- последняя »