2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


Посмотреть правила форума



Начать новую тему Ответить на тему
 
 Метод главных компонент
Сообщение25.10.2016, 12:31 
Аватара пользователя


07/07/14
156
Здравствуйте! Возникла необходимость разобраться в методе главных компонент. Где можно про него почитать на уровне,доступном нематематику,желательно,чтобы сам алгоритм был четко и последовательно описан, а если ещё и пример будет, то вообще замечательно. Нагуглить ничего дельного не смог.
Основы линейной алгебры в университете проходили, но боюсь, придется во многих вещах предварительно разобраться. Где это можно сделать?

 Профиль  
                  
 
 Re: Метод главных компонент
Сообщение25.10.2016, 12:50 
Заслуженный участник
Аватара пользователя


01/03/06
13626
Москва
PeanoJr в сообщении #1162926 писал(а):
Нагуглить ничего дельного не смог.

А чем статья в Вики (гуглится первой!) - не дельная? :shock: На мой взгляд - весьма дельная и прозрачная.

 Профиль  
                  
 
 Re: Метод главных компонент
Сообщение25.10.2016, 13:08 
Аватара пользователя


07/07/14
156
Brukvalub в сообщении #1162935 писал(а):
PeanoJr в сообщении #1162926 писал(а):
Нагуглить ничего дельного не смог.

А чем статья в Вики (гуглится первой!) - не дельная? :shock: На мой взгляд - весьма дельная и прозрачная.


На Ваш взгляд профессионального математика - безусловно:)
А вот мне бы хотелось что-нибудь более структурированное и простое, если уж на то пошло

 Профиль  
                  
 
 Re: Метод главных компонент
Сообщение25.10.2016, 13:20 
Заслуженный участник
Аватара пользователя


01/03/06
13626
Москва
Вот гуглится спецкурс, он попроще.

 Профиль  
                  
 
 Re: Метод главных компонент
Сообщение25.10.2016, 13:36 
Заслуженный участник


11/05/08
32166
PeanoJr в сообщении #1162944 писал(а):
А вот мне бы хотелось что-нибудь более структурированное и простое, если уж на то пошло

А Вы всё-таки попробуйте разобраться. Там ключевые идеи довольно просты и достаточно структурированы (хоть и не в совсем естественном порядке).

Начните с п.1.1 (постановка задачи): есть облако точек в энмерном пространстве, и надо наилучшим образом приблизить его камерным линейным многообразием. Наилучшим в среднеквадратичном смысле, т.е. минимизируется сумма квадратов отклонений точек от многообразия, причём отклонений по нормали (а не по "вертикали", как в методе наименьших квадратов). В любом случае это многообразие должно проходить через среднюю точку, и надо лишь определить направляющие векторы

Затем перейдите сразу к п.2, где изложена суть метода: направляющие векторы -- это собственные векторы ковариационной матрицы, отвечающие максимальным собственным числам и взятые в нужном количестве (равном размерности многообразия).

Затем возвращайтесь в п.1.1 и вчитывайтесь в алгоритм поиска. Он, в принципе, повторяет стандартное доказательство диагонализуемости симметричной матрицы и в идейном отношении прост. Собственные векторы ("главные компоненты") ищутся последовательно. Сначала -- отвечающий наибольшему собственному числу. Потом данные (уже центрированные) ортогональзуются к найденному вектору и для них ищется очереднойсобственный вектор.Процедура прекращается, когда будут набрано нужное количество векторов.

Единственное, что там зажёвано -- это что на каждом шаге ищется именно некоторый собственный вектор и что найти его можно лишь приближённо (итерационными методами).

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 5 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: ihq.pl


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group