ВУЗ:
Составители:
Рубрика:
71
является коэффициент сжатия
max
/ HHk
i
a
=
, где
i
a
H - энтропия реального
источника,
max
H - энтропия аналогичного источника с максимальной эн-
тропией. Мерой избыточности служит коэффициент избыточности:
max
max
H
HH
i
a
−
=
ρ
.
Избыточность приводит к уменьшению удельной энтропии в
бит/символ, к несогласованности источника с каналом, к увеличению вре-
мени, затрачиваемому на передачу. Наличие избыточности означает, что
источник выдает лишние символы, так речь многих людей насыщена сло-
вами, не несущими информации, словами-паразитами. Избыточные двоич-
ные источники содержат много лишних нулей или
единиц. Существуют
приемы исключения избыточности, способствующие повышению эффек-
тивности передачи информации. Однако избыточность бывает полезной
для обеспечения надежности связи. Национальные языки, например, обла-
дают очень большой избыточностью. Реальная энтропия, например, рус-
ского языка с учетом разной вероятности букв в тексте и уточнения по тек-
сту
буквбитH
i
a
/5,1≈
. Так, в тексте сообщения представляют собой по-
следовательность букв, при этом вероятности появления отдельных букв
зависят от того, какие буквы им предшествовали. Поэтому при определе-
нии энтропии и количества информации в сообщении следует учитывать
не только безусловные, но и условные вероятности появления сообщений.
3.4. Пропускная способность дискретного канала (ДК) без помех
В п. 3.1 упоминалось о том, что при неравновероятности сообщений
канал оказывается несогласованным с источником информации, в резуль-
тате чего он не используется в полной мере. Например, если на вход дво-
ичного дискретного канала поступают преимущественно нули, то реле,
выступающее в роли дискретного демодулятора, практически всегда нахо-
дится в обесточенном состоянии, т
.е. без дела. И наоборот, в случае пере-
дач одних единиц реле будет под током всегда, его можно было бы не ста-
вить, закоротив выход канала. Таким образом, если считать, что скорость
передачи через дискретный канал есть среднее количество информации,
проходящее через канал в единицу времени, то в рассмотренных случаях
она мала. С другой стороны, максимальная пропускная способность ДК
определяется через полосу пропускания непрерывного канала
k
fΔ (см.
п.2.8) и может быть определена:
0
max
1
2
τ
=Δ==
kkk
fVC бит,
где
0
τ
- длительность одного символа.
Страницы
- « первая
- ‹ предыдущая
- …
- 69
- 70
- 71
- 72
- 73
- …
- следующая ›
- последняя »
