2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему
 
 SVM и двойственная задача
Сообщение23.05.2020, 13:45 


20/12/17
147
Сейчас разбираюсь в SVM и вроде бы всё понятно, но есть пара вопросов.
С самого начала у нас есть задача о минимизации $\min \dfrac{1}{2}||w||^2$, ограничения $y_i(w^Tx - b) - 1 \geq 0, \; i = 1, ..., m.$
Потом мы составляем лагранжиан для нашей задачи:
$$\mathcal{L}(w, b, \alpha) = \dfrac{1}{2}||w||^2 + \sum_{i = 1}^m \alpha_i [y_i(w^Tx - b) - 1].$$
Далее берём частные производные по параметрам $w, b$, приравниваем их к нулю, находим решение для нашего вектора, перпендикулярного разделяющей гиперплоскости:
$$w^{(0)} = \sum_{i = 1}^m \alpha_i y_i x ^{(i)}.$$
Привели исходную задачу к двойственной задаче $$\mathcal{L} (w, b, \alpha) = \sum_{i = 1}^m \alpha_i - \dfrac{1}{2}\sum_{i, j = 1}^m y^{(i)}y^{(j)}\alpha^{(i)}\alpha^{(j)}<x^{(i)}, x^{(j)}>,$$
1) Я понимаю, что мы находим вектор $w$, для опорных векторов $\alpha_i \neq 0$, но как находить эти самые коэффициенты $\alpha$ мне не ясно.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ 1 сообщение ] 

Модераторы: maxal, Toucan, PAV, Karan, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group