Вычислительные методы алгебры и оценивания. Семушин И.В. - 238 стр.

UptoLike

ВУЗ: 

УлГТУ | Ульяновск

Составители: 

Рубрика: 

11 Оценивание по методу наименьших квадратов
эффективные схемы вычислений. Кроме того, как и любое знание, наука вы-
числений несет с собой важные, плодотворные идеи, которые полезны сами
по себе. Применительно к задаче МНК, эти базовые идеи следующие: рекур-
сия алгоритма, скаляризация обработки векторных данных, факторизация
матриц (ковариационных и информационных), ортог о нализация матриц, и
взаимная инверсность (двойственность форм) вычислительных алгоритмов.
11.2 Линейная задача наименьших квадратов
Во многих приложениях, связанных с обработкой экспериментальных
данных, необходимо от ыскивать такой вектор x ∈ R
n
, линейные комбина-
ции компонент которого, Ax, где A = A(m, n) — матрица размера (m × n),
как можно более близки или, еще лучше, равны данным значениям, обра-
зующим вектор z ∈ R
m
, т. е. Ax ≈ z. Если мерой близости двух векторов
счита т ь квадрат е в клидовой нормы разностного вектора, в данном случае,
вектора v , z−Ax, то указанная з адача есть линейная задача о наименьших
квадратах (см. также подразд. 10.4 ).
Возможность сделать равным нулю вектор невяз о к v = z−Ax суще ствует
тогда и только тогда, когда z ∈ R(A), где R(A) — пространство столбцов
матрицы A. В этом случае имеем совместную с истему уравнений A x = z.
Однако, z — вектор наблюдений, то ес т ь экспериментальных данных и A —
матрица, которую задают до того, как получат z и которую в различных
приложениях называют либо матрицей регрессоров, либо матрицей наблю-
дений, либо матрицей плана эксперимента. Совсем не обязательно, что усло-
вие z ∈ R(A) будет выполнено, например, из-за случайных погреш ностей v
во время регистрации экспериментальных данных. Тогда
z = A x + v, (11.1)
и решение по методу наименьших квадратов (для краткости, МНК-
решение) есть вектор ¯x, доставляющий минимум функционалу качества (см.
рис. 11.1):
J(x) = (z −Ax)
T
(z − Ax) =
m
X
j=1
v(j)
2
= v
T
v. (11.2)
Требуя минимум этого критерия, для искомого ¯x получаем так называе-
мые нормальные уравнения (см. подразд. 10.4, стр. 209):
A
T
A¯x = A
T
z. (11.3)
238

Страницы