ВУЗ:
Составители:
273
обобщенной системы. Чем ближе несмещенная реконструкция к истинной
(заданной) системе, тем лучше гипотеза.
В общем случае близость двух сопоставимых систем с поведением мо-
жет быть выражена через метрическое расстояние между их функциями по-
ведения. Существует много разных типов метрических расстояний. Так, на-
пример, класс расстояний Минковского определяется следующей формулой:
∑
∈
−=
Cc
p/hh
p
,|)c(f)c(f|[)f,f(
1
δ
(Г.39)
где
f, f
h
- соответственно функция поведения заданной системы и несмещен-
ная реконструкция по гипотезе h, a
N
p
∈
- параметр функций расстояния.
При
р = 1- это расстояние Хэмминга, при p = 2 - Евклида, при р = ∞ - верхняя
граница расстояний.
Расстояния по Минковскому вычисляют по точечным разностям
|)c(f)c(f|
h
−
распределение вероятностей или возможностей в соответствии с формулой
(Г.39) . Несмотря на то, что поточечное описание близости
f и f
h
полезно для
многих приложений, теоретически оно недостаточно хорошо обосновано.
Более обосновано рассматривать близость как разности информации, содер-
жащейся в
h относительно f, или, другими словами, как потерю информации
при замене
f на h (на множество проекций f ).
Меру подобной потери информации будем называть информационным
расстоянием и обозначать
D(f, f
h
)- Для вероятностных систем она задается
хорошо известной формулой
∑
∈
=
Cc
h
h
,
)c(f
)c(f
log)c(f
|C|log
)f,f(D
2
2
1
(Г.40)
где константа l/log
2
|C| — нормирующий коэффициент, обеспечивающий вы-
полнение соотношения
0 ≤
D(f, f
h
) ≤ 1.
Поскольку, если
f
h
(с) = 0, то f(с) = 0, вероятностное информационное
расстояние определено всегда. Это, однако, не метрическое расстояние, так
как оно асимметрично, более того,
D(f
h
, f) может быть не определено для не-
которых
f и f
h
[когда f
h
(с) > 0 и f (c) = 0 для некоторого с
∈
С].
При применении вероятностного расстояния к порождающей системе с
поведением уравнение (Г.40) приобретает следующий вид:
.
)g|g(f
)g|g(f
log)g|g(f)g(f
|G|log
)f,f(D
h
GgGg
h
G
∑∑
∈∈
=
2
1
(Г.41)
Модификация уравнений (Г.40) и (Г.41) для направленных систем с по-
ведением очевидна.
Для возможностных систем информационное расстояние рассчитывает-
ся по формуле
∫
=
1
0
2
2
1
)l,f(c
)l,f(c|
log
|C|log
)f,f(D
h
h
, (Г.42)
обобщенной системы. Чем ближе несмещенная реконструкция к истинной
(заданной) системе, тем лучше гипотеза.
В общем случае близость двух сопоставимых систем с поведением мо-
жет быть выражена через метрическое расстояние между их функциями по-
ведения. Существует много разных типов метрических расстояний. Так, на-
пример, класс расстояний Минковского определяется следующей формулой:
δ p ( f , f h ) = [ ∑ | f ( c ) − f h ( c ) |1 / p , (Г.39)
c∈C
h
где f, f - соответственно функция поведения заданной системы и несмещен-
ная реконструкция по гипотезе h, a p ∈ N - параметр функций расстояния.
При р = 1- это расстояние Хэмминга, при p = 2 - Евклида, при р = ∞ - верхняя
граница расстояний.
Расстояния по Минковскому вычисляют по точечным разностям
| f ( c ) − f h( c )|
распределение вероятностей или возможностей в соответствии с формулой
(Г.39) . Несмотря на то, что поточечное описание близости f и f h полезно для
многих приложений, теоретически оно недостаточно хорошо обосновано.
Более обосновано рассматривать близость как разности информации, содер-
жащейся в h относительно f, или, другими словами, как потерю информации
при замене f на h (на множество проекций f ).
Меру подобной потери информации будем называть информационным
расстоянием и обозначать D(f, f h)- Для вероятностных систем она задается
хорошо известной формулой
1 f(c)
D( f , f h ) = ∑
log 2 | C | c∈C
f ( c ) log 2 h
f (c)
, (Г.40)
где константа l/log2|C| — нормирующий коэффициент, обеспечивающий вы-
полнение соотношения
0 ≤ D(f, f h) ≤ 1.
Поскольку, если f h(с) = 0, то f(с) = 0, вероятностное информационное
расстояние определено всегда. Это, однако, не метрическое расстояние, так
как оно асимметрично, более того, D(f h, f) может быть не определено для не-
которых f и f h [когда f h(с) > 0 и f (c) = 0 для некоторого с ∈ С].
При применении вероятностного расстояния к порождающей системе с
поведением уравнение (Г.40) приобретает следующий вид:
1 f(g|g )
DG ( f , f h ) = ∑
log 2 | G | g∈G
f ( g )∑ f ( g | g ) log h
g∈G f (g|g)
. (Г.41)
Модификация уравнений (Г.40) и (Г.41) для направленных систем с по-
ведением очевидна.
Для возможностных систем информационное расстояние рассчитывает-
ся по формуле
1 1
| c( f h ,l )
D( f , f ) = ∫ log 2 c( f ,l ) ,
h
(Г.42)
log 2 | C | 0
273
Страницы
- « первая
- ‹ предыдущая
- …
- 271
- 272
- 273
- 274
- 275
- …
- следующая ›
- последняя »
