Оптимизация квадратичного функционала в задаче SVM

[ProgRoman]

Всем привет, у меня возник вопрос по выводу формул для SVM в двойственной задачи у целевой функции у меня получается два плюса вот ссылка http://www.machinele...%82%D0%BC_INCAS там в 1-ой системе целевая функция с обратным знаком взята и знаки самих слагаемых у функции различны, а у меня всё время получаются слагаемые с одинаковыми знаками ниже приведу ход моего решения. В чём ошибка что-то разобраться не могу пока подскажите что не так делаю?
система для оптимизации
$ \begin{cases} <w,w>\to \min,\\\ y_i(<w,x_i>-w_0)\geq 1\,, i=1..l \end{cases} $
Запишем функцию Лагранжа по этой системе получим следующее
$ L(w,w_0,\lambda)=\frac 1 2 <w,w> -\sum\limits_{i=1}^l \lambda_i (y_i\left( <w,x_i>-w_0\right)-1) $
теперь возьмём производные получим следующее
$ \frac {\partial L} {\partial w}=w-\sum\limits_{i=1}^l \lambda_i y_i x_i=0, \quad (1) $
$ \frac {\partial L} {\partial w_0}=\sum\limits_{i=1}^l \lambda_i y_i=0, \quad (2) $
Перепишем функцию Лагранжа в другом виде т.е. раскроем скобки и получим
$ L(w,w_0,\lambda)=\frac 1 2 <w,w> -\sum\limits_{i=1}^l \lambda_i y_i\left( <w,x_i>-w_0\right)-(-\sum\limits_{i=1}^l \lambda_i) $
Видим, что второе слагаемое нашей суммы полностью обращается в 0 это видно из равенства (2) тогда получим следующее подставим вместо $w$ их значения из (1) равенства получим
$ L(w,w_0,\lambda)=\sum\limits_{i=1}^l \lambda_i + \frac 1 2 \sum\limits_{i=1}^l \sum\limits_{j=1}^l \lambda_i \lambda_j y_i y_j <x_i,x_j> \to \min\limits_\lambda $
в чём ошибка понять не могу, но во всех лекциях и статьях у этой функции между слагаемыми разные знаки, а у меня получились знаки одинаковы вот лекции Воронцова там тоже есть вывод только не понятно как там получаются различные знаки http://www.ccas.ru/voron/download/SVM.pdf

[AKM]

Замена формул изображениями на форуме не допускается. Здесь рассказано, как набирать формулы (здесь подробнее).
Используйте кнопку для редактирования своего сообщения.

Тема перемещена из "Помогите решить (М)" в карантин. Как исправите - пишите сюда, чтобы тему вернули.

[Toucan]

Вернул.

[bot]

Это про какие знаки - у лямбд или целевой функции? Смена знака у лямбд - это переобозначение, а у целевой функции - замена цели (min на max и наоборот).
Так что ни то ни другое значения не имеет и вопрос лишь в удобстве - вон Вы сами зачем 1/2 перед скалярным квадратом поставили?

-- Чт окт 20, 2011 19:03:53 --

Или это не скалярный квадрат? Что-то производные какие-то странные ...

[ProgRoman]

для удобства дифференцирования поставил)
я говорил о том что у меня получается целевая функция вида
$ L(w,w_0,\lambda)=\sum\limits_{i=1}^l\lambda_i+ \frac 1 2 \sum\limits_{i=1}^l\sum\limits_{j=1}^l\lambda_i\lambda_j y_iy_j <x_i,x_j> $
вот а в лекциях получается
$ L(w,w_0,\lambda)=\sum\limits_{i=1}^l\lambda_i- \frac 1 2 \sum\limits_{i=1}^l\sum\limits_{j=1}^l\lambda_i\lambda_j y_iy_j <x_i,x_j> $
хотя я сейчас посмотрел если сделать замену $\lambda=-\lambda$
но если мы делаем такую замену то это фактически умножение на -1 всей целевой функции тогда
$ -L(w,w_0,\lambda)=-\sum\limits_{i=1}^l\lambda_i+ \frac 1 2 \sum\limits_{i=1}^l\sum\limits_{j=1}^l\lambda_i\lambda_j y_iy_j <x_i,x_j> $
и соответственно
$ L(w,w_0,\lambda)=\sum\limits_{i=1}^l\lambda_i- \frac 1 2 \sum\limits_{i=1}^l\sum\limits_{j=1}^l\lambda_i\lambda_j y_iy_j <x_i,x_j> $
вроде так можно и находить надо будет опять же минимум функции
пасибо вроде бы всё понял теперь откуда - )))