2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


Посмотреть правила форума



Начать новую тему Ответить на тему
 
 Как найти градиент?
Сообщение11.07.2021, 22:38 


19/06/18
2
Добрый вечер,

Вопрос взял из книги по глубокому обучению: каков градиент функции $f(\mathbf{x}) = ||\mathbf{x}||_2$ ($\mathbf{x}$ -- вектор)?

Сам попробовал решить так: представил $\mathbf{x}$ как вектор из чисел, каких-нибудь условно $l, m, k$. Тогда норма такого вектора - это $\sqrt{l^2+m^2+k^2}$. И, соответственно, градиент - это сумма частных производных, что дает в итоге $\frac{l+m+k}{\sqrt{l^2+m^2+k^2}}$. Отвлекаясь от примера и возвращаясь к исходной постановке задачи вижу, что градиент $||x||_2 = \frac{\sum_{i=1}^{n} x_{i}}{||x||_2}$.

Подскажите пожалуйста, верно ли мыслю? Если нет, то можете подсказать решение либо подтолкнуть к верному ответу?
Заранее спасибо!

 Профиль  
                  
 
 Re: Как найти градиент?
Сообщение11.07.2021, 22:44 
Заслуженный участник


16/02/13
4195
Владивосток
Ну, верный ответ вы уже и сами посмотрели. А чем он отличается от вашего?

 Профиль  
                  
 
 Re: Как найти градиент?
Сообщение11.07.2021, 22:45 


19/06/18
2
iifat в сообщении #1525804 писал(а):
Ну, верный ответ вы уже и сами посмотрели. А чем он отличается от вашего?


Я не смотрел верный ответ, в книге он не указан, гуглом идентичное задание не нашел. Интересно, верно ли я решил.

 Профиль  
                  
 
 Re: Как найти градиент?
Сообщение11.07.2021, 22:47 
Заслуженный участник


09/05/13
8904
∞⠀⠀⠀⠀
timebird в сообщении #1525803 писал(а):
градиент - это сумма частных производных,

Нет. Градиент это вектор. А сумма Ваша - нет.

 Профиль  
                  
 
 Re: Как найти градиент?
Сообщение12.07.2021, 00:24 


10/03/16
4444
Aeroport
timebird
Искать градиент последовательно через частные производные - это гемор и верный способ запутаться. Дайте вектору $x$ векторное же приращение $\delta x$ и посчитайте линейную по $\delta x$ часть приращения.

P.S. Где принято писать двойку у квадрата нормы внизу? Или это Вы не специально? )

Уупс, простите, я ступил :facepalm:

-- 12.07.2021, 00:27 --

P.P.S.
timebird в сообщении #1525803 писал(а):
градиент - это сумма частных производных

really??

 Профиль  
                  
 
 Re: Как найти градиент?
Сообщение12.07.2021, 00:52 
Заслуженный участник
Аватара пользователя


23/07/08
10910
Crna Gora
Обозначим норму $r$, тогда $r^2=x_1^2+x_2^2+...+x_n^2$.
Лёгкий способ найти $\frac{\partial r}{\partial x_i}$ — продифференцировать это равенство по $x_i$.

 Профиль  
                  
 
 Re: Как найти градиент?
Сообщение12.07.2021, 14:21 


10/03/16
4444
Aeroport
svv в сообщении #1525814 писал(а):
Лёгкий способ найти $\frac{\partial r}{\partial x_i}$ — продифференцировать это равенство по $x_i$.

О, прикольно. И никаких корней!

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 7 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: Shadow, YandexBot [bot]


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group