Математические методы искусственного интеллекта. Броневич А.Г - 11 стр.

UptoLike

Рубрика: 

11
3. Слияние кластеров. Если расстояние между двумя какими-то цен-
трами кластеров достаточно мало, то эти кластеры следует объединить в
один. Для реализации этой процедуры вычисляется расстояние между двумя
центрами кластеров:
ij i j
l =−cc для всех
ij
.
Если окажется, что
3ij
lq< , то кластеры
i
S и
j
S следует объединить.
Новый центр кластера вычисляется по формуле
1
()
ii j j
ij
NN
NN
=+
+
ccc.
Алгоритм ISODATA может содержать и другие процедуры, регули-
рующие число кластеров.
Практическая часть.
1.
Вычислите центр кластера
{
}
1
,...,
k
S = xx, состоящего из заданных
векторов.
2.
Даны центры кластеров
1
,...,
n
cc. Найдите среди заданных векторов
1
,...,
k
xx новый центр кластера
1n+
c , наилучший с точки зрения максиминного
алгоритма в а) евклидовой метрике; б) равномерной метрике; в) метрике
Хэмминга.
Лабораторная часть.
1.
Написать программу, конвертирующую бинарное изображение то-
чек (точка не может состоять из нескольких связных пикселей) в массив ко-
ординат точек.
2.
Написать программу метода k-means.
3.
Дополнить программу k-means программой предварительной рас-
становки центров кластеров с помощью максиминного алгоритма.
5. МАШИНА ОПОРНЫХ ВЕКТОРОВ
Метод (машина) опорных векторов (SVM – Support Vector Machine)
был разработан в ряде работ В. Вапника и др. в 70-е годы прошлого века. Это
метод обучения с учителем разделению на классы с помощью решающих
функций наилучшим в некотором смысле образом. По скорости разделения
двух классов SVM считается наилучшим методом.
5.1. Линейно разделимый случай
Пусть имеется некоторая обучающая выборка
1
{ ,..., }
m
Ω= xx, причем
11
{ ,..., }
k
ϖ
xx и
12
{ ,..., }
kn
ϖ
+
xx , где
1
ω
и
2
ω
два класса. Требуется по обу-
чающей выборке построить линейную решающую функции, т.е. такую ли-
нейную функцию ()
f
x , которая удовлетворяла бы условию
1
2
() 0 ,
() 0 .
ii
ii
f
f
ω
ω
>∀
<∀
xx
xx
Для унификации элементов обучающей выборки введем в рассмотре-
ние коэффициенты принадлежности выборочных элементов тому или иному
классу: