ВУЗ:
Составители:
125
Переходя в (14.7) к натуральным логарифмам, получаем
pI ln
2ln
1
−= . (14.8)
В смысловом (семантическом ) аспекте энтропия характеризует
степень деградации энергии в системе, связанную с ее рассеянием:
энергия высокого качества, за счет которой может производиться ра-
бота (например, потенциальная энергия поднятого груза или направ-
ленного потока фотонов в солнечном свете), превращается в энергию
более низкого качества — тепловую энергию хаотического теплового
движения частиц. Тогда информация характеризует уровень качест-
ва энергии в системе. Из (14.2), (14.5), (14.8) следует, что 1 биту соот-
ветствует изменение энтропии, численно равное k = 1,38⋅10
-23
Дж/К.
Таким образом, для заметного вклада в уменьшение энтропии систе-
мы требуется огромное количество информации, выраженной в би-
тах.
Как уже говорилось, в технических устройствах используются
двоичные системы счисления. Известно, что количество оборудова-
ния, необходимого для изображения одного числа в системе счисле-
ния с основанием n, имеет минимум при n = e
≈
≈ 2,718, поэтому 3-
символьный код был бы более экономным. Вместе с тем при одинако-
вой точности представления информации количество двухпозицион-
ных элементов, необходимых для использования системы счисления с
основанием n > 2, в общем случае превышает количество тех же эле-
ментов при использовании двоичной системы счисления, за исключе-
нием n = 2
k
(k=1,2,3,...). С другой стороны, при n = 2 скорость вычис-
лений (точнее, число сложений в единицу времени) минимальна. По-
этому обычно в машинных кодах используются 16-разрядные слова (k
= 4): 8 двоичных разрядов (бит) составляют 1 байт.
В наиболее простых, телеграфных кодах, предназначенных для
передачи лишь словесных сообщений, используется предложенный
французским изобретателем Ж. Бодо 5-разрядный алфавит на основе
двух символов. Число возможных выборок объема n = 5 из совокуп-
ности N = 2 символов составляет N
n
= 2
5
= 32. В русском языке это
обеспечивает передачу всех букв алфавита, кроме ё. Однако любой
сбой на входе канала связи или в процессе передачи сообщения при-
водит к ошибкам на выходе. Поэтому, с целью помехоустойчивости
кодирования, помимо смысловой оценки сообщений в ответственных
случаях используется дублирование передаваемой информации.
Природа поступила мудрее. В генетическом коде используются
3-буквенные слова (n = 3) — кодоны на основе 4-символьного алфа-
Страницы
- « первая
- ‹ предыдущая
- …
- 123
- 124
- 125
- 126
- 127
- …
- следующая ›
- последняя »
