Сборник примеров и задач по теории информации: Руководство для практических занятий на базе Mathcad 6.0 Plus. Кавчук С.В. - 49 стр.

UptoLike

ВУЗ: 

ТТИ ЮФУ | Таганрог

Составители: 

Рубрика: 

49
Канал связи характеризуется при
p
1
10
2
,
p
2
.
210
2
,
p
3
0.97
и
ORIGIN 1 матрицей условных вероятностей P(y
j
/x
i
)=Py
x
,ji
, где y
j
,
j..13 − ансамбль сигналов на выходе канала (т.е. приемника),
Py
x
p
3
p
1
p
2
p
2
p
3
p
1
p
1
p
2
p
3
;
=Py
x
,22
0.97
Определить пропускную способность канала. Сравнить производитель-
ность источника и пропускную способность канала.
Решение. Предварительно определим единицы измерения количества эн-
тропии:
а) при натуральном логарифме (нит) −
nit ln ( )e ;
б) при двоичном логарифме (бит) −
bit
.
nit ln ( )2 .
По условию задачи скорость v
x
создания сигналов и скорость v
k
их пе-
редачи по каналу равны, т.е. v
x
=v
k
. Эти скорости соответствуют частоте
следования сигналов, т.е.
v
x
F
и
v
k
F
.
Согласно определению (3.5), пропускная способность
C = v
k
max{I(Y,X)}=Fmax{I(Y,X)},
где максимум ищется по всем распределениям вероятностей P(X) и P(Y).
Найдем безусловные вероятности P(y
i
):
assume
Px
Py
j
=1
3
i
.
Px
i
Py
x
,ji
.
Px
1
Py
x
,j1
.
Px
2
Py
x
,j2
.
Px
3
Py
x
,j3
.
Следовательно,
Py
1
.
Px
1
p
3
.
Px
2
p
2
.
Px
3
p
1
;
Py
2
.
Px
1
p
1
.
Px
2
p
3
.
Px
3
p
2
;
Py
3
.
Px
1
p
2
.
Px
2
p
1
.
Px
3
p
3
.
Согласно (1.1), безусловная энтропия H(Y) выходного сигнала
H
Y
j
.
Py
j
ln Py
j
;
=H
Y
1.572 bit
.
=Py
0.397
0.301
0.302
.
.

Страницы