Конспект лекций по программированию для начинающих. Гладков В.П. - 10 стр.

                                         12

                                              k
На одну букву в среднем приходится I ср = -∑ Pi ⋅ log 2 ( Pi ) бит информации.
                                              i=1

    Пример 2.8. Выясним, дома ли наш товарищ, с помощью телефона.
    Решение. В этой простой ситуации три альтернативы: либо он дома, либо
его нет дома, либо не удалось дозвониться.
    Если, позвонив по телефону, мы узнаем, что товарищ дома, т.е. реализуется
одна из двух первых альтернатив; то мы получим исчерпывающую
информацию, так как будет достигнута полная ясность. Если дозвониться не
удалось, то неопределенность осталась, значит информации получено не было
(нулевая информация).
    Качество (ценность) получаемой информации связано не только с
уменьшением неопределенности, но и со степенью неожиданности полученной
информации. Чем более неожиданно сообщение, тем более ценна получаемая
информация. Например, если вашего товарища не окажется дома во время
школьных занятий, то ценность такой информации не будет очень большой, но
ее ценность увеличится, если его не окажется дома ночью или поздно вечером.
Качество информации связано также с заинтересованностью в ней человека,
получившего сообщение. Так, узнав, что Ивана Иванова, незнакомого вам, не
оказалось вечером дома, вы останетесь равнодушным. Если же им окажется
ваш одноклассник, с которым вы договорились созвониться вечером, то
ценность полученной информации возрастет.
    Качество информации связано с последствиями ее получения для вашего
поведения. Если эти последствия не требуют изменения поведения, то
информация малоценна. Но если, получив сообщение, вам придется, сломя
голову, бежать куда-то, чтобы что-то сделать, то ценность полученной
информации велика.
    Качество информации связано со временем ее получения. Сообщение,
полученное сегодня, может заинтересовать вас меньше, чем в том случае, если
бы оно было получено вчера. О такого рода ситуациях говорят: «Дорога ложка
к обеду».
    В технике используют более простой способ измерения информации,
который можно назвать объемным. Он основан на подсчете количества
символов в сообщении, т.е. связан с его длиной и не учитывает содержание.
    Длина различных сообщений зависит от количества символов в алфавите, с
помощью которого представляется информация.
    Например, одно и то же число восемнадцать в десятичной системе
счисления записывается двумя - 18, в двоичной системе счисления - пятью -
10010, в троичной системе счисления - тремя символами - 200.
    В вычислительной технике применяют стандартные единицы измерения:
бит, байт и производные от них. Бит - это один двоичный символ. Байт - это
один символ, который можно представить двоичным кодом. Всего в одном
байте можно записать 28 = 256 различных двоичных восьмибитовых
последовательностей, или 256 символов.
             1024 байта = 1 Кб = 210 байта (Кб - килобайт),
             1024 Кб     = 1 Мб = 220 байта (Мб - мегабайт),