Сборник примеров и задач по теории информации: Руководство для практических занятий на базе Mathcad 6.0 Plus. Кавчук С.В. - 51 стр.

UptoLike

Составители: 

51
vI
X
.
FH
X
.
F
.
Px
1
ln Px
1
.
Px
2
ln Px
2
.
Px
3
ln Px
3
и составляет
=vI
X
157.095 bit
.
Так как vI(X)>C, то канал связи нельзя использовать для передачи ин-
формации от данного источника.
Пример 3.2.4.
Определить максимально возможную скорость передачи
информации по радиотехническому каналу связи пункта управления с теле-
управляемой ракетой, если полоса пропускания канала связи равна
F
.
3 MHz , а минимальное отношение сигнал/шум по мощности ρ
xξ
=P
x
/P
ξ
в процессе наведения ракеты на цель
ρ
x
ξ
3
.
Предварительно определим единицы измерения количества информации:
а) при натуральном логарифме (нит)
nit ln ( )e ;
б) при двоичном логарифме (бит)
bit
.
nit ln ( )2 .
На основании (3.8) пропускная способность данного непрерывного кана-
ла
C
.
Fln 1
ρ
x
ξ
и составляет
=C 6 10
6
sec
1
bit.
3.3. Типовые задачи
Задача 3.3.1. Алфавит состоит из четырех букв x
1
, x
2
, x
3
и x
4
. Вероят-
ности появления символов P(x
i
) заданы вектор-столбцом
Px
1
2
1
4
1
8
1
8
T
.
Между соседними символами имеются корреляционные связи, которые опи-
сываются при
ORIGIN 1 матрицей условных вероятностей P(x
i
/x
j
)=Px
x
,ij
следующего вида
Px
x
0
0.2
0.25
0.2
0.2
0.2
0
0.4
0.4
0.3
0.25
0.4
0.4
0.3
0.5
0
.
Требуется определить избыточность источника при статистической неза-
висимости символов и при учете зависимости между ними.
Ответ. Избыточность источника при статистической независимости сим-
волов
R1 0.125
=
и при статистической зависимости символов R2 0.184
=
.