2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему
 
 Нейронные сети - смысл вычислений
Сообщение18.07.2015, 05:43 


17/04/06
256
Я хотел бы понять смысл вычислений в нейронных сетях. Толстые книги читать лень, а в интернете простого объяснения не найти. Вот как, по моему, выгляди простая нейронная сеть.
Имеются входные данные $x_1, x_2$. Имеется выходное значение $z$. Беруться произвольные веса $w_1, w_2$ и какая-то функция обучения $f$ (пока плохо понимаю какая именно). Далее весa правятся до достижения приемлемого уровня ошибки. Правка происходит по формуле.
$\Delta w_1 = \frac{df(y)}{dy}|_{x_1w_1+ x_2w_2}(f(x_1w_1+ x_2w_2) -z)x_1$ тоже самое для $\Delta w_2$

Я не понимаю куда это все ведёт. С одно стороны очень похоже на минимизацию кваратичного отклонения $g=(f(x_1w_1+ x_2w_2)-z)^2$

$\frac{\partial g(w_1)}{\partial w_1} = 2 (f(x_1w_1+ x_2w_2) - z) \frac{df}{dy}|_{x_1w_1+ x_2w_2}x_1=0$

А далее это что шаг Нютоновского метода для отыскания ноля производной? Как-то не похоже.

 Профиль  
                  
 
 Re: Нейронные сети - смысл вычислений
Сообщение18.07.2015, 19:21 


17/04/06
256
Извиняюсь за ответ на собственный вопрос. Похоже это метод градиентного спуска по отношению к квадратичному отклонению.

(Оффтоп)

Почему то не смог отредактировать свое собственное сообщение

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 2 ] 

Модераторы: Karan, Toucan, PAV, maxal, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group