Линейная алгебра. Курзина В.М. - 29 стр.

                                       ⎯ 28 ⎯

ва V2 и a = a 1 + a 2. Аналогично, вектор b = −2 i −3 j − 6 k ∈V3 может быть
представлен как сумма его ортогональной проекции на подпространство V2
b 1 = −2 i −3 j и ортогональной составляющей b 2 = − 6 k : b = b 1 + b 2. По-
скольку a + b = 0 , a 1 + b 1 = 0 , a 2 + b 2 = 0 , получаем представление для
нулевого вектора пространства V3. Его ортогональная составляющая и ор-
тогональная проекция ⎯ нулевые векторы соответствующих подпро-
странств.


       1. 8. Метод наименьших квадратов для переопределенной
      системы

     Рассмотрим систему из n линейных алгебраических уравнений от-
носительно k неизвестных


                    ⎧ a11 x1 + ... + a1k x k = b1 ;
                    ⎪a x + ... + a x = b ;
                    ⎪ 21 1                  2k k           2
                    ⎨                                                         ( 1. 12 )
                    ⎪    .................... ............
                    ⎪⎩ a n1 x1 + .. + a nk x k = bn .
 или в матричной форме Ах = b. Каждому набору значений неизвестных
сопоставим числа сi = b i − ( аi1х1 + ... + аik хk) , i = 1, ..., n. Очевидно, что на-
бор значений неизвестных является решением системы тогда и только то-
гда, когда соответствующие ему числа сi, i = 1, ..., n равны нулю. Отметим,
что функция
                                            k
                     Ф (х1, ... , хk ) =   ∑ [bi   − (a i1 x1 + ... + a ik x k )] 2
                                           i =1
на решениях системы равна нулю и положительна в остальных случаях.
Поэтому ее можно рассматривать как оценку отклонения набора значений
неизвестных от точного решения системы. Если система несовместна, то
часто возникает задача нахождения такого набора значений неизвестных,
который приводит к наименьшему значению функции Ф.Такой подход в
решении переопределенной системы называют методом наименьших квад-
ратов, так как ищется минимум функции, являющейся суммой квадратов.
        Далее будем рассматривать столбцы коэффициентов при неизвест-
ных и столбец правых частей системы линейных алгебраических уравне-
ний (1.12) как столбцы координат векторов a 1,..., a k,b евклидова арифме-
тического пространства Rn в стандартном базисе. Набор разностей сi , i =
= 1,..., n, можно рассматривать как вектор c = (c1, .. , cn)∈Rn, который опре-
деляется соотношением c = b − (х1 a 1 + ... + хk a k). Скалярный квадрат век-