что это за разложение матрицы?

[bigarcus]

Цитата:

$$ \begin{pmatrix} 1 & 0.7 & 0.8\\ 0.7 & 1 & 0.9\\ 0.8 & 0.9 & 1 \end{pmatrix} =$$ $$ = \begin{pmatrix} \sqrt{2.60}\cdot 0.55 & \sqrt{0.31}\cdot 0.80 & \sqrt{0.08}\cdot 0.23\\ \sqrt{2.60}\cdot 0.58 & \sqrt{0.31}\cdot (-0.57) & \sqrt{0.08}\cdot 0.59\\ \sqrt{2.60}\cdot 0.60 & \sqrt{0.31}\cdot (-0.19) & \sqrt{0.08}\cdot (-0.78) \end{pmatrix}\cdot \begin{pmatrix} \sqrt{2.60}\cdot 0.55 & \sqrt{2.60}\cdot 0.58 & \sqrt{2.60}\cdot 0.60\\ \sqrt{0.31}\cdot 0.80 & \sqrt{0.31}\cdot (-0.57) & \sqrt{0.31}\cdot (-0.19)\\ \sqrt{0.08}\cdot 0.23 & \sqrt{0.08}\cdot 0.59 & \sqrt{0.08}\cdot (-0.78) \end{pmatrix} $$

по какой такой известной формуле это расписано?

я знаю, что есть разложение матрицы на главные вектора и главные значения с помощью трёх матриц: $A=PDP^{-1}$.
в приведённой цитате у первой после знака равенства матрицы в первой колонке первый множитель - это максимальное собственное значение исходной матрицы; второй множитель - это соответствующий собственный вектор, и так далее. после знака умножения стоит транспонированная матрица первой. то есть как-то похоже, но не полностью.

[NSKuber]

У вас опечатка в последней строке - второй элемент строки должен быть равен $0.9$.
И первые множители в колонках (корни) - это не собственные значения, а корни из них.

bigarcus в сообщении #1021885 писал(а):

я знаю, что есть разложение матрицы на главные вектора и главные значения: $A=PDP^{-1}$.

Так это оно и есть. Взяли матрицу $D=\operatorname{diag}\{2.6, 0.31, 0.08\}$ и извлекли из неё корень: $\sqrt{D}=\operatorname{diag}\{\sqrt{2.6}, \sqrt{0.31}, \sqrt{0.08}\}$. Тогда $A=P \sqrt{D} \sqrt{D} P^{-1}$. До вашего разложения тут рукой подать.

[bigarcus]

так что ли? $A=(P\sqrt{D})(\sqrt{D}P^{-1})=(P\sqrt{D})(\sqrt{D}P)^{-1}=(P\sqrt{D})(P\sqrt{D})^T$

второе равенство, т.к. матрица $(\sqrt{D}P^{-1})$ симметрична, а первое равенство поскольку для диагональная матрица совпадает со своей транспанированной?

[NSKuber]

Ой не так ли, действий намного меньше на самом деле.

bigarcus в сообщении #1021916 писал(а):

матрица $(\sqrt{D}P^{-1})$ симметрична

Почему?
После расставления скобок всего одно равенство надо написать. Да можно, впринципе, и не писать, всё готово. Дело в том, что матрица $P$ из собственных векторов в случае симметричной $A$ не абы какая, а особенная: https://ru.wikipedia.org/wiki/Симметричная_матрица

[bigarcus]

NSKuber в сообщении #1021925 писал(а):

Дело в том, что матрица $P$ из собственных векторов в случае симметричной $A$ не абы какая, а особенная

ортогональная вроде. и для нее обратная совпадает с транспанированной

тогда $A=(P\sqrt{D})(\sqrt{D}P^{T})$ ?

-- Пн июн 01, 2015 00:43:23 --

и $A=(p\sqrt{D})(\sqrt{D}P)^T$, можно так прям, да?

[NSKuber]

Почти. Транспонирование произведения напрямую не раскрывается - порядок матриц меняется.

[bigarcus]

не знал)

тогда

$$A=PDP^{-1}=P\sqrt{D}\sqrt{D}P^{-1}=(P\sqrt{D})(\sqrt{D}P^{-1})=(P\sqrt{D})(\sqrt{D}P^{T})=(P\sqrt{D})(P\sqrt{D})^T$$

а почему wolfram alpha и maple дают разные собственные вектора (и они отличаются от приведенного в методичке, т.е. от первого сообщения в теме)?

(Оффтоп)

(Оффтоп)

?

-- Пн июн 01, 2015 06:48:57 --

знаки перед собственными векторами не совпадают

[NSKuber]

Это всё оттого, что собственных векторов много. Собственный вектор, соответствующий собственному значению $\lambda$ - это что такое? Это произвольный вектор $x$, удовлетворяющий $Ax=\lambda x$. Пусть мы нашли такой вектор $x$ и зафиксировали. Тогда будет ли выполняться $Ay=\lambda y$, если $y=-x$? А если $y=cx$, где $c$ - произвольная константа?

[bigarcus]

вот черт
а чего, от выбора этой константы ничего не зависит? точнее, видимо, от ее знака (вроде только он меняется)
разные ведь главные компоненты получатся!

-- Пн июн 01, 2015 15:18:27 --

или надо вручную домножать на -1 отрицательные вектора чтобы больше положительных было?

[Munin]

bigarcus в сообщении #1022334 писал(а):

а чего, от выбора этой константы ничего не зависит?

Нет, абсолютно ничего. Собственный вектор - это всего лишь произвольный представитель собственного подпространства.

При желании, собственные вектора можно нормировать на единицу. Но даже тогда, каждый собственный вектор может быть выбран двумя способами, $x$ и $-x.$ И наконец, можно потребовать, чтобы все собственные векторы образовывали правую $n$-ку (когда они вообще образуют базис). И даже в этом случае, можно произвольно выбрать один из двух способов для всех векторов, кроме последнего.

[bigarcus]

формула $A\cdot x=\lambda \cdot x$ понятна
я имею в виду, для PCA в конечном счете важно какие именно брать собственные вектора?

ведь дальнейшие формулы меняются, те же выражения для главных компонент...
я далеко заглянуть у меня не получается пока
не пойму почему не зависит всетаки

[Munin]

Это надо знать, что такое PCA, так что я не в курсе.