2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


Посмотреть правила форума



Начать новую тему Ответить на тему
 
 Как найти градиент?
Сообщение11.07.2021, 22:38 


19/06/18
2
Добрый вечер,

Вопрос взял из книги по глубокому обучению: каков градиент функции $f(\mathbf{x}) = ||\mathbf{x}||_2$ ($\mathbf{x}$ -- вектор)?

Сам попробовал решить так: представил $\mathbf{x}$ как вектор из чисел, каких-нибудь условно $l, m, k$. Тогда норма такого вектора - это $\sqrt{l^2+m^2+k^2}$. И, соответственно, градиент - это сумма частных производных, что дает в итоге $\frac{l+m+k}{\sqrt{l^2+m^2+k^2}}$. Отвлекаясь от примера и возвращаясь к исходной постановке задачи вижу, что градиент $||x||_2 = \frac{\sum_{i=1}^{n} x_{i}}{||x||_2}$.

Подскажите пожалуйста, верно ли мыслю? Если нет, то можете подсказать решение либо подтолкнуть к верному ответу?
Заранее спасибо!

 Профиль  
                  
 
 Re: Как найти градиент?
Сообщение11.07.2021, 22:44 
Заслуженный участник


16/02/13
4195
Владивосток
Ну, верный ответ вы уже и сами посмотрели. А чем он отличается от вашего?

 Профиль  
                  
 
 Re: Как найти градиент?
Сообщение11.07.2021, 22:45 


19/06/18
2
iifat в сообщении #1525804 писал(а):
Ну, верный ответ вы уже и сами посмотрели. А чем он отличается от вашего?


Я не смотрел верный ответ, в книге он не указан, гуглом идентичное задание не нашел. Интересно, верно ли я решил.

 Профиль  
                  
 
 Re: Как найти градиент?
Сообщение11.07.2021, 22:47 
Заслуженный участник


09/05/13
8904
∞⠀⠀⠀⠀
timebird в сообщении #1525803 писал(а):
градиент - это сумма частных производных,

Нет. Градиент это вектор. А сумма Ваша - нет.

 Профиль  
                  
 
 Re: Как найти градиент?
Сообщение12.07.2021, 00:24 


10/03/16
4444
Aeroport
timebird
Искать градиент последовательно через частные производные - это гемор и верный способ запутаться. Дайте вектору $x$ векторное же приращение $\delta x$ и посчитайте линейную по $\delta x$ часть приращения.

P.S. Где принято писать двойку у квадрата нормы внизу? Или это Вы не специально? )

Уупс, простите, я ступил :facepalm:

-- 12.07.2021, 00:27 --

P.P.S.
timebird в сообщении #1525803 писал(а):
градиент - это сумма частных производных

really??

 Профиль  
                  
 
 Re: Как найти градиент?
Сообщение12.07.2021, 00:52 
Заслуженный участник
Аватара пользователя


23/07/08
10910
Crna Gora
Обозначим норму $r$, тогда $r^2=x_1^2+x_2^2+...+x_n^2$.
Лёгкий способ найти $\frac{\partial r}{\partial x_i}$ — продифференцировать это равенство по $x_i$.

 Профиль  
                  
 
 Re: Как найти градиент?
Сообщение12.07.2021, 14:21 


10/03/16
4444
Aeroport
svv в сообщении #1525814 писал(а):
Лёгкий способ найти $\frac{\partial r}{\partial x_i}$ — продифференцировать это равенство по $x_i$.

О, прикольно. И никаких корней!

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 7 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group