ВУЗ:
Составители:
7.2 Линейная задача наименьших квадратов
7.2 Линейная задача наименьших квадратов
Линейная задача наименьших квадратов (см. рис. 7.1) ставится следую-
щим образом (см. также подразд. 11.2) [13, 15].
Дано линейное уравнение
z = Ax + v, (7.1)
в котором известны вектор z ∈ R
m
и (m × n)-матрица A ∈ R
m×n
, т. е.
A = A(m, n). Разностный вектор v , z −Ax, называемый невязкой, зависит
от переменного вектора x ∈ R
n
. Требуется найти значение ˆx вектора x,
минимизирующее квадратический критерий качества
J(x) = (z − Ax)
T
(z − Ax) = kvk
2
→ min . (7.2)
Если ни при каком x невязка v не может быть обращена в 0 — нулевой
вектор, то сис т ема Ax = z — несовместная, в противном случае совместная,
т. е. критерий (7.2) охватывает оба случая. Однако сам метод наимень-
ших квадратов (МНК), выраженный критерием (7.2), создан Леж андром в
1805 году как алгебраическая процедура именно для несовм естных систем и
подтвержден как статистическая процедура Гауссом в 1809 году. МНК как
алгебраическая процедура проиллюстрирован выше с помощью рис. 7.1(a),
а как статистическая процедура — с помощью рис. 7.1(b). Замечательно, что
обе процедуры имеют одинаковые реш ения, т. е. алгебраически эти решения
эквивалентны и при E {v} = 0 и E
vv
T
= I (см. рис. 7.1(b)) с о в падают,
поэтому можно говорить о едином МНК-решении ˆx.
МНК-решение ˆx всегда существует как решение нормальных уравнений
A
T
Aˆx = A
T
z, (7.3)
выражается формулой
ˆx = A
+
z + (I − A
+
A)y (7.4)
через произвольный вектор y ∈ R
n
, где A
+
— псевдообратная матрица
для матрицы A , и единственно тогда и только тогда, когда A
+
A = I, что
равносильно условию, что только нулево й вектор с о ставляет ядро (нуль-
пространство) матрицы A, т. е. при rank A = n.
Условие rank A = n, называемое условием полного столбцового ранга
матрицы A, обусловливает случай m ≥ n, что при m > n означает пере-
определенную систему полного ранга в (7.1). Этот типичный для практики
109
Страницы
- « первая
- ‹ предыдущая
- …
- 107
- 108
- 109
- 110
- 111
- …
- следующая ›
- последняя »
