Конспект лекций по программированию для начинающих. Гладков В.П. - 8 стр.

                                       10

случайного явления наблюдаются специфические закономерности, им
присущие. Наступление случайного явления количественно оценивается
вероятностью.     Классическое      определение     вероятности   следующее:
вероятностью явления называют отношение числа благоприятствующих
случаев к общему числу исключающих друг друга случаев. Поясним это
определение на ряде примеров.
   Пример 2.1. В ящике лежат 10 одинаковых по форме шаров: 3 белых, 2
синих и 5 красных. Чему равна вероятность того, что наугад вынутый шар
окажется красным?
   Решение. Так как все 10 шаров одинаковы по форме, то общее число
равновозможных случаев равно 10. Число благоприятных случаев равно 5 - по
числу красных шаров, следовательно, вероятность вынуть красный шар
5/10=1/2.
   Пример 2.2. Бросим две монеты. Какова вероятность того, что на каждой
монете выпал герб?
   Решение. В этом примере имеется четыре равновероятных события:
   1) на первой монете выпала решка, на второй монете - решка;
   2) на первой монете - решка, на второй монете - герб;
   3) на первой монете - герб, на второй монете - решка;
   4) на первой монете - герб, на второй монете - герб.
   Из этих четырех равновозможных событий благоприятствующим является
только одно - четвертое. Следовательно, искомая вероятность равна 1/4.
   Из примера 2.2 следует, что вероятность равновозможного выбора из N
p=1/N. Тогда формулу Хартли можно переписать: N=1/p; H = log21/p = -log2p.
   Пример 2.3. Шарик находится в одном из 8 ящиков. Найти
неопределенность ситуации.
   Решение. H = log28 = log223 = 3.
   Пример 2.4. Витязь на распутье. Перед ним три дороги. Найти
неопределенность ситуации.
   Решение. H = log23 = 1,585.
   Пример 2.5. Школьник решает, когда учить уроки: днем или вечером?
Найти неопределенность ситуации.
   Решение. H = log22 = 1.
    За единицу измерения неопределенности принимается неопределенность
ситуации, имеющей два равновероятных исхода. Такая единица называется бит.
В примере 2.3 неопределенность ситуации оценивается в 3 бита, в примере 2.4 -
1,585 бита, в примере 2.5 - 1 бит.
    Для определения количества полученной информации достаточно из
степени неопределенности исходной ситуации I1 вычесть степень
неопределенности ситуации I2, в которой оказались после получения
информации: K = I1 - I2.
    Пример 2.6. Необходимо найти слово русского языка, содержащее
наибольшее количество букв «о».
    Решение. Первоначально полем поиска является все множество слов
русского языка. Но после получения сообщения о том, что это слово следует