Концептуальное понимание операций

[lemintare]

Допустим, вы придумываете какую нибудь формулу. Как понять, что переменные нужно умножить, сложить, делить, и так далее? Я вот, например, когда вижу формулу, то пытаюсь понять, почему здесь умножают на каком то визуальном уровне что ли, но никогда не хватало фантазии.. Мой вопрос зародился из алгоритма обратного распространения ошибки при обучении нейронных сетей. Почему при нахождении локального градиента мы ошибку именно что умножаем на производную функции? Ведь локальный градиент сам по себе вектор частных производных, но в какой то определенной точке, или нет?

[mihaild]

Формулы не придумывают просто так. Формулы выводят по определенным правилам.
Например back propagation основан на формуле дифференцирования композиции: $\frac{\partial f(g(w))}{\partial w} = f'(g(w)) \cdot g'(w)$. Которая, в свою очередь, выводится из определения производной.

[Ende]

Тема перемещена из форума «Математика (общие вопросы)» в форум «Помогите решить / разобраться (М)»
Причина переноса: темы, в которых нужно что-то объяснить или подсказать, создаются в этом разделе.