Задание на матричное уравнение уравнение.

[Maxim19]

Здравствуйте, попалась задача: матрица$m$ на $n$ $m>n$ $A$, $b$ вектор произвольный.Доказать что найдётся вектор $x$ где $A^TAx=A^Tb$. Я не решал такие задачи и возникают проблемы. Тут же надо доказать, что количество линейно независимых векторов в матрице $A^T$ такое же, как и в матрице $A^TA$? Если да, то у меня это не получается, а если нет, то что нужно в таких задачах делать?

-- 11.02.2023, 01:14 --

Можно ещё явно записать их разность и к нулю приравнять, но там будут квадраты значений и вряд ли поможет.

[Евгений Машеров]

https://ru.wikipedia.org/wiki/%D0%9D%D0 ... 1%80%D0%B0

[artempalkin]

Maxim19 в сообщении #1581070 писал(а):

Тут же надо доказать, что количество линейно независимых векторов в матрице $A^T$ такое же, как и в матрице $A^TA$?

Это доказывается более сложным образом в теме "сингулярное разложение матрицы".

А иначе есть такая теорема: матрица Грама вырождена тогда и только тогда, когда исходная система векторов линейно зависима. Она обычно разбирается ближе "к началу пути"

[мат-ламер]

artempalkin в сообщении #1581089 писал(а):

А иначе есть такая теорема:

А ещё иначе есть такая теорема: для матрицы $A$ существует псевдообратная матрица $A^+$ и тогда $x=A^+b$ .

Интересно поставить такой вопрос. Как доказать утверждение из первого поста наиболее просто и ссылаясь только на наиболее очевидные факты?

-- Сб фев 11, 2023 12:03:04 --

Maxim19 в сообщении #1581070 писал(а):

Тут же надо доказать, что количество линейно независимых векторов в матрице $A^T$ такое же, как и в матрице $A^TA$?

Меня уже этот вопрос поставил в тупик. Допустим есть ответ на исходный вопрос (о существовании вектора $x$), использующий тот факт, что ранг матрицы $A^TA$ равен рангу матрицы $A$ (а это - равенство рангов - так). И допустим, что есть ответ на этот же вопрос, который не использует этот факт. Как тогда ответить на цитируемый вопрос? Поскольку я в замешательстве, то пока воздержусь от ответа.

-- Сб фев 11, 2023 12:15:48 --

мат-ламер в сообщении #1581090 писал(а):

Интересно поставить такой вопрос. Как доказать утверждение из первого поста наиболее просто и ссылаясь только на наиболее очевидные факты?

Можно рассуждать так. Рассмотрим образ оператора $A$ . Это некоторое линейное подпространство. Очевидно на нём существует точка, которая является ближайшей к вектору $b$ .

[krum]

Ну есть же общий факт: уравнение $Bx=c$ разрешимо иогда и только тогда когда $c\perp\ker B^*$
У нас $B=A^*A,\quad c=A^*b$.
Заметим, что $\xi\in\ker A\Longleftrightarrow \xi\in \ker A^*A$.

-- 11.02.2023, 12:06 --

$B:X\to Y,\quad B^*:Y^*\to X^*;\qquad Y\ni c\perp\nu\in Y^*\Longleftrightarrow (\nu,c)=0$

[Maxim19]

krum
Включение вправо понятно, но почему работает включение влево?

[krum]

какое включение?

[Maxim19]

Про ядра линейного оператора, у вас там включение туда обратно

-- 11.02.2023, 18:34 --

В общем я что то запутался, можете сказать, что нужно использовать для этой задачи?

[krum]

$A^*A\xi=0\Rightarrow \xi^*A^*A\xi=0;\quad \xi^*A^*A\xi=|A\xi|^2$ Ну тут еще надо придать точный смысл значкам. Хотя можно просто рассуждать в чисто матричных координатных терминах и говорить про транстпонирование.

[Maxim19]

А почему сравниваем ядра операторов $A$ и $A^*A$, если в самой задаче матрицы $A^*A$ и $A^*$?

[krum]

Следите внимательно, я написал к чему применяется теорема. Фмксируем системы координат во всех пространствах и введем стандартные скалярные произведения. Тогда условия теоремы легко проверяются.
Пусть $a\in \ker A^*A$ тогда, по уже доказанному, $a\in\ker A$. Проверяем ортогональность
$(A^*b,a)=(b,Aa)=0$ ЧТД

[Maxim19]

Понял, спасибо

[мат-ламер]

мат-ламер в сообщении #1581090 писал(а):

Можно рассуждать так. Рассмотрим образ оператора $A$ . Это некоторое линейное подпространство. Очевидно на нём существует точка, которая является ближайшей к вектору $b$ .

На всякий случай поясню.
1. То, что образ линейного оператора, является линейным подпространством, в учебниках доказывается.
2. То, что для любого линейного подпространства существует точка, ближайшая к некоторому вектору $b$ , тоже много где доказывается. Это теорема о проекции. Верна и для гильбертовых пространств. В конечномерном случае доказательство совсем простое. Выберем на подпространстве какую-нибудь точку $a$ и окружим точку $b$ шаром с радиусом $\|a-b\|$ . На этом шаре непрерывная функция расстояния от точки $b$ до точек подпространства, принадлежащем шару, достигает минимума, как непрерывная функция на компакте.
3. Значит и квадрат расстояния $f(x)=\|Ax-b\|^2$ достигает своего минимума. Значит существует точка, в которой градиент функции $f(x)$ равен нулю. Приравнивая этот градиент к нулю, получаем уравнение из первого поста.

[Maxim19]

Классно, обязательно поизучаю "пересечение" функционального анализа и алгебры. Интересное решение

-- 11.02.2023, 19:34 --

Хотя вроде функциональный анализ есть смесь алгебры и матанализа

[мат-ламер]

Maxim19 в сообщении #1581159 писал(а):

Классно, обязательно поизучаю "пересечение" функционального анализа и алгебры. Интересное решение

Если тема заинтересовала, то на всякий случай скажу, что задача имеет глубокий смысл - у линейной задачи наименьших квадратов всегда существует решение. Что имеет применение как в статистике, так и в теории аппроксимации. Доказательство разобрано, например, в книге Алберт "Регрессия, псевдоинверсия ..." или в Гантмахер "Теория матриц" - в конце первой главы доказывается существование псевдообратной матрицы. Правда те доказательства я не смотрел, а своё из головы придумал. Сейчас посмотрел, у Алберта много чего общего с доказательством от krum , а в Гантмахере несколько тяжеловесно объясняется.