2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 Как найти градиент?
Сообщение11.07.2021, 22:38 
Добрый вечер,

Вопрос взял из книги по глубокому обучению: каков градиент функции $f(\mathbf{x}) = ||\mathbf{x}||_2$ ($\mathbf{x}$ -- вектор)?

Сам попробовал решить так: представил $\mathbf{x}$ как вектор из чисел, каких-нибудь условно $l, m, k$. Тогда норма такого вектора - это $\sqrt{l^2+m^2+k^2}$. И, соответственно, градиент - это сумма частных производных, что дает в итоге $\frac{l+m+k}{\sqrt{l^2+m^2+k^2}}$. Отвлекаясь от примера и возвращаясь к исходной постановке задачи вижу, что градиент $||x||_2 = \frac{\sum_{i=1}^{n} x_{i}}{||x||_2}$.

Подскажите пожалуйста, верно ли мыслю? Если нет, то можете подсказать решение либо подтолкнуть к верному ответу?
Заранее спасибо!

 
 
 
 Re: Как найти градиент?
Сообщение11.07.2021, 22:44 
Ну, верный ответ вы уже и сами посмотрели. А чем он отличается от вашего?

 
 
 
 Re: Как найти градиент?
Сообщение11.07.2021, 22:45 
iifat в сообщении #1525804 писал(а):
Ну, верный ответ вы уже и сами посмотрели. А чем он отличается от вашего?


Я не смотрел верный ответ, в книге он не указан, гуглом идентичное задание не нашел. Интересно, верно ли я решил.

 
 
 
 Re: Как найти градиент?
Сообщение11.07.2021, 22:47 
timebird в сообщении #1525803 писал(а):
градиент - это сумма частных производных,

Нет. Градиент это вектор. А сумма Ваша - нет.

 
 
 
 Re: Как найти градиент?
Сообщение12.07.2021, 00:24 
timebird
Искать градиент последовательно через частные производные - это гемор и верный способ запутаться. Дайте вектору $x$ векторное же приращение $\delta x$ и посчитайте линейную по $\delta x$ часть приращения.

P.S. Где принято писать двойку у квадрата нормы внизу? Или это Вы не специально? )

Уупс, простите, я ступил :facepalm:

-- 12.07.2021, 00:27 --

P.P.S.
timebird в сообщении #1525803 писал(а):
градиент - это сумма частных производных

really??

 
 
 
 Re: Как найти градиент?
Сообщение12.07.2021, 00:52 
Аватара пользователя
Обозначим норму $r$, тогда $r^2=x_1^2+x_2^2+...+x_n^2$.
Лёгкий способ найти $\frac{\partial r}{\partial x_i}$ — продифференцировать это равенство по $x_i$.

 
 
 
 Re: Как найти градиент?
Сообщение12.07.2021, 14:21 
svv в сообщении #1525814 писал(а):
Лёгкий способ найти $\frac{\partial r}{\partial x_i}$ — продифференцировать это равенство по $x_i$.

О, прикольно. И никаких корней!

 
 
 [ Сообщений: 7 ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group