Понять метод главных компонент

[YaMolekula]

Добрый день.
Я не могу понять как работает метод главных компонент. Точнее зачем нам ковариационная матрица и зачем нам ее собственные вектора. Помогите мне разобраться с этим методом.

Примерно приведу свою нить суждения:
1) Собственный вектор - вектор, который не меняет направления после преобразования (умножение на матрицу).
2) Ковариационная матрица - показывает нам зависимость между величинами.
3) Но какой же смысл несет собственный вектор ковариационной матрицы?
4) Например, если рассматривать ее как преобразование (для использования идеи собственного вектора), то это преобразование чего во что?

[Евгений Машеров]

У собственных векторов свойств много. Тут лучше о максимизации квадратичных форм вспомнить, и какое к ней отношение имеют собственные вектора.
Ну, или о разложении матриц на сумму матриц ранга 1.