2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


Посмотреть правила форума



Начать новую тему Ответить на тему
 
 Метод главных компонент
Сообщение25.10.2016, 12:31 
Аватара пользователя


07/07/14
156
Здравствуйте! Возникла необходимость разобраться в методе главных компонент. Где можно про него почитать на уровне,доступном нематематику,желательно,чтобы сам алгоритм был четко и последовательно описан, а если ещё и пример будет, то вообще замечательно. Нагуглить ничего дельного не смог.
Основы линейной алгебры в университете проходили, но боюсь, придется во многих вещах предварительно разобраться. Где это можно сделать?

 Профиль  
                  
 
 Re: Метод главных компонент
Сообщение25.10.2016, 12:50 
Заслуженный участник
Аватара пользователя


01/03/06
13626
Москва
PeanoJr в сообщении #1162926 писал(а):
Нагуглить ничего дельного не смог.

А чем статья в Вики (гуглится первой!) - не дельная? :shock: На мой взгляд - весьма дельная и прозрачная.

 Профиль  
                  
 
 Re: Метод главных компонент
Сообщение25.10.2016, 13:08 
Аватара пользователя


07/07/14
156
Brukvalub в сообщении #1162935 писал(а):
PeanoJr в сообщении #1162926 писал(а):
Нагуглить ничего дельного не смог.

А чем статья в Вики (гуглится первой!) - не дельная? :shock: На мой взгляд - весьма дельная и прозрачная.


На Ваш взгляд профессионального математика - безусловно:)
А вот мне бы хотелось что-нибудь более структурированное и простое, если уж на то пошло

 Профиль  
                  
 
 Re: Метод главных компонент
Сообщение25.10.2016, 13:20 
Заслуженный участник
Аватара пользователя


01/03/06
13626
Москва
Вот гуглится спецкурс, он попроще.

 Профиль  
                  
 
 Re: Метод главных компонент
Сообщение25.10.2016, 13:36 
Заслуженный участник


11/05/08
32166
PeanoJr в сообщении #1162944 писал(а):
А вот мне бы хотелось что-нибудь более структурированное и простое, если уж на то пошло

А Вы всё-таки попробуйте разобраться. Там ключевые идеи довольно просты и достаточно структурированы (хоть и не в совсем естественном порядке).

Начните с п.1.1 (постановка задачи): есть облако точек в энмерном пространстве, и надо наилучшим образом приблизить его камерным линейным многообразием. Наилучшим в среднеквадратичном смысле, т.е. минимизируется сумма квадратов отклонений точек от многообразия, причём отклонений по нормали (а не по "вертикали", как в методе наименьших квадратов). В любом случае это многообразие должно проходить через среднюю точку, и надо лишь определить направляющие векторы

Затем перейдите сразу к п.2, где изложена суть метода: направляющие векторы -- это собственные векторы ковариационной матрицы, отвечающие максимальным собственным числам и взятые в нужном количестве (равном размерности многообразия).

Затем возвращайтесь в п.1.1 и вчитывайтесь в алгоритм поиска. Он, в принципе, повторяет стандартное доказательство диагонализуемости симметричной матрицы и в идейном отношении прост. Собственные векторы ("главные компоненты") ищутся последовательно. Сначала -- отвечающий наибольшему собственному числу. Потом данные (уже центрированные) ортогональзуются к найденному вектору и для них ищется очереднойсобственный вектор.Процедура прекращается, когда будут набрано нужное количество векторов.

Единственное, что там зажёвано -- это что на каждом шаге ищется именно некоторый собственный вектор и что найти его можно лишь приближённо (итерационными методами).

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 5 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group