сумма компонентов собственного вектора

[AndreyL]

Так, теперь доходчиво. Тогда вопрос, почему все компоненты последнего собственного вектора равны?

[Евгений Машеров]

AndreyL в сообщении #1612444 писал(а):

Не понял, почему "все $m$ компонентов одинаковые"?

Потому, что линейное соотношение между значениями измерений имеет одинаковые коэффициенты.

[AndreyL]

Можно чуть подробнее? Пока я понял, что в случае, когда сумма компонентов единица, минимальная ось эллипсоида рассеяния направлена вдоль вектора из единичек, только не понял, почему

-- Чт окт 05, 2023 8:36 am --

Все, понял - все анализы лежат в плоскости, перпендикулярной этой оси. Большое Спасибо всем, кто участвовал, за ликбез

[Евгений Машеров]

Можно поэкспериментировать - сгенерировать данные с другим соотношением. И посмотреть на последний С.В.
Здесь в чём эффект - матрица независимых величин n на m при $m>n$, вообще говоря, будет иметь ранг n. Но у нас наложено ограничение, в силу которого одна величина вычисляется по другим, то есть ранг $n-1$. У ковариационной матрицы также ранг уменьшается. И появляется нулевое собственное значение и его собственный вектор ("нуль-пространство", так любимое фантастами 60х). Соотношение с равными коэффициентами, по единице, так что у С.В. тоже равные значения. А остальные С.В. ему ортогональны. Если бы сумма их элементов была бы не 0, были бы не ортогональны (тут можно расписать ковариационную матрицу, как сумму матриц ранга 1 из С.В. и С.З., и тогда это очевидно).

[AndreyL]

Да, спасибо большое! Такой вопрос (реально туда-же) - правильно ли я понимаю, что собственный вектор $V_1$ с максимальным собственным значением максимизирует сумму квадратов скалярных произведений $\sum_i \left(V_1. \left(X_i -\mu \right)\right)^2$ где $\mu$ - вектор средних по выборке $X$? Или это неверно?

[Евгений Машеров]

Это проще всего показать, делая сингулярное разложение матрицы Х. Тогда почти очевидно.

[AndreyL]

Наверное не самой матрицы, а центрированной $X -\mu$?

[realeugene]

AndreyL в сообщении #1612509 писал(а):

Все, понял - все анализы лежат в плоскости, перпендикулярной этой оси.

В ортогональном оси подпространстве. Ось - одномерное подпространство, ортогонально оси максимум $n-1$-мерное.

-- 05.10.2023, 13:07 --

AndreyL в сообщении #1612533 писал(а):

$\sum_i \left(V_1. \left(X_i -\mu \right)\right)^2$

Не понимаю запись.

Суммируете по векторам выборки, а собственный вектор ковариационной матрицы? Нет, это неверно: вектора выборки могут быть какими угодно, в том числе, вообще получиться ортогональными собственному вектору ковариационной матрицы с максимальным собственным значением.

[Евгений Машеров]

AndreyL в сообщении #1612535 писал(а):

Наверное не самой матрицы, а центрированной $X -\mu$?

Да.

-- 05 окт 2023, 23:08 --

realeugene в сообщении #1612536 писал(а):

Суммируете по векторам выборки, а собственный вектор ковариационной матрицы? Нет, это неверно: вектора выборки могут быть какими угодно, в том числе, вообще получиться ортогональными собственному вектору ковариационной матрицы с максимальным собственным значением.

Не могут. Ковариационная матрица рассчитана по выборке. То есть отдельные, конечно, могут и оказаться ортогональны. Но если если все ортогональны - то такого собственного вектора вообще в матрице быть не может.

[realeugene]

Евгений Машеров в сообщении #1612625 писал(а):

Ковариационная матрица рассчитана по выборке.

Неужели?

[Евгений Машеров]

Если мы ставим вопрос о том, собственный вектор ковариационной матрицы максимизирует некую функцию от выборки - естественно предположить, что это обычная постановка, например, для анализа главных компонент. Так ли это - надо уточнять у топикстартера.

[realeugene]

Евгений Машеров в сообщении #1612641 писал(а):

Если мы ставим вопрос о том, собственный вектор ковариационной матрицы максимизирует некую функцию от выборки - естественно предположить, что это обычная постановка, например, для анализа главных компонент. Так ли это - надо уточнять у топикстартера.

Эта тема явно по мотивам предыдущей темы ТС, в которой ковариационная матрица задана. Кроме того, по выборке можно получить только оценку ковариационной матрицы, но не саму ковариационную матрицу. Но согласен: прежде, чем что-либо советовать ТС, стоит поинтересоваться у него деталями его расчётов. Что у него тут есть "многомерная выборка", для начала?

[AndreyL]

Задача в предметной области - есть несколько составов кристаллов (именно поэтому в сумме 1), методом главных компонент получено, что первая компонента съедает 99% дисперсии. Это означает, что состав кристалла описывается смешением двух конечных членов плюс случайная флуктуация. Мне хотелось понять, можно ли описать состав кристалла через какой-то базовый состав плюс первый собственный вектор - да, можно, поскольку сумма компонентов собственного вектора неизбежно равна 0, т.е. стехиометрия кристалла сохраняется. Эту же задачу я решаю другим способом - в явном виде нахожу два конечных состава (в каждом из них фиксирую содержание какого-нибудь компонента), разность между ними по идее должна быть коллинеарна первому собственному вектору - пока не так.
К ранней теме с известной ковариационной матрицей эта задача не имеет никакого отношения.