2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 Концептуальное понимание операций
Сообщение28.02.2023, 14:56 
Допустим, вы придумываете какую нибудь формулу. Как понять, что переменные нужно умножить, сложить, делить, и так далее? Я вот, например, когда вижу формулу, то пытаюсь понять, почему здесь умножают на каком то визуальном уровне что ли, но никогда не хватало фантазии.. Мой вопрос зародился из алгоритма обратного распространения ошибки при обучении нейронных сетей. Почему при нахождении локального градиента мы ошибку именно что умножаем на производную функции? Ведь локальный градиент сам по себе вектор частных производных, но в какой то определенной точке, или нет?

 
 
 
 Re: Концептуальное понимание операций
Сообщение28.02.2023, 15:11 
Аватара пользователя
Формулы не придумывают просто так. Формулы выводят по определенным правилам.
Например back propagation основан на формуле дифференцирования композиции: $\frac{\partial f(g(w))}{\partial w} = f'(g(w)) \cdot g'(w)$. Которая, в свою очередь, выводится из определения производной.

 
 
 
 Posted automatically
Сообщение28.02.2023, 15:38 
 i  Тема перемещена из форума «Математика (общие вопросы)» в форум «Помогите решить / разобраться (М)»
Причина переноса: темы, в которых нужно что-то объяснить или подсказать, создаются в этом разделе.

 
 
 [ Сообщений: 3 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group