2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


Посмотреть правила форума



Начать новую тему Ответить на тему На страницу 1, 2, 3, 4  След.
 
 Имеет ли функция многих переменных локальные минимумы?
Сообщение18.09.2023, 16:56 


18/09/23
32
Здравствуйте уважаемые участники, помогите пожалуйста разобраться с вопросом.
Есть функция многих переменных:
$$F(x_1,...x_n, y_1,...,y_m)=\sum\limits_{k=1}^{m}f_k(x_1,...x_n, y_k)$$
Известно, что при фиксированных $y_i$ в заданном диапазоне $[a;\infty)$ функция $F()$ является квадратичной, ограниченной снизу функцией. Также известно, что при любом фиксированном наборе $x_i$, все функции $f_k()$ являются выпуклыми вниз функциями, в диапазоне переменных $y_k \in [a; \infty)$.

Можно ли из этого сделать вывод, что функция $F()$ является выпуклой и в диапазоне переменных $y_k \in [a; \infty)$ она имеет единственный минимум?

 Профиль  
                  
 
 Re: Имеет ли функция многих переменных локальные минимумы?
Сообщение18.09.2023, 17:02 
Заслуженный участник


07/08/23
1047
С единственностью минимума точно могут быть проблемы, если взять $f_k(x_1, \ldots, x_n, y_k) = y_k^2$.

Ещё можно взять $f(x, y) = (x + y)^2 - y$, тогда всё будет плохо.

 Профиль  
                  
 
 Re: Имеет ли функция многих переменных локальные минимумы?
Сообщение18.09.2023, 17:11 


18/09/23
32
dgwuqtj благодарю за ответ, но ведь крадратичнай функция ($y_k^2$) как раз и имеет единственный минимум, а сумма квадратичных функций тоже квадратичная функция. Или я не прав?

 Профиль  
                  
 
 Re: Имеет ли функция многих переменных локальные минимумы?
Сообщение18.09.2023, 17:14 
Заслуженный участник


07/08/23
1047
У неё минимум не единственный при $n > 0$, т.к. она не зависит от $x_i$.

 Профиль  
                  
 
 Re: Имеет ли функция многих переменных локальные минимумы?
Сообщение18.09.2023, 17:26 


18/09/23
32
У функции $f_k(x_1, \ldots, x_n, y_k) = y_k^2$ единственный минимум в точке $y_k=0$.

$f(x, y) = (x + y)^2 - y$
у этой функции тоже только 1 минимум, т.к. её производные по x и y являются линейными функциями.

Хотелось бы действительно показательный контрпример

 Профиль  
                  
 
 Re: Имеет ли функция многих переменных локальные минимумы?
Сообщение18.09.2023, 17:43 
Заслуженный участник


07/08/23
1047
У функции $f(x, y) = (x + y)^2 - y$ вообще нет минимума, т.к. она принимает сколь угодно малые значения. Например, $f(-10, 10) = -10$, $f(-100, 100) = -100$, и т. д.

 Профиль  
                  
 
 Re: Имеет ли функция многих переменных локальные минимумы?
Сообщение18.09.2023, 17:48 


18/09/23
32
но она не удовлетворяет условию задачи
Missiir в сообщении #1610325 писал(а):
все функции $f_k()$ являются выпуклыми вниз функциями, в диапазоне переменных $y_k \in [a; \infty)$.

хотя экстремум всё равно один, правда не минимум а максимум

 Профиль  
                  
 
 Re: Имеет ли функция многих переменных локальные минимумы?
Сообщение18.09.2023, 18:03 
Заслуженный участник


07/08/23
1047
Да ладно? Это многочлен второй стерени с положительным старшим членом при каждом конкретном $x$. И где этот ваш экстремум?

 Профиль  
                  
 
 Re: Имеет ли функция многих переменных локальные минимумы?
Сообщение18.09.2023, 18:13 


18/09/23
32
по крайней мере в точке x=0, y=0 градиент у неё равен нулю, и какой смысл об этом рассуждать, если функция всё равно не подходит под условие

 Профиль  
                  
 
 Re: Имеет ли функция многих переменных локальные минимумы?
Сообщение18.09.2023, 18:18 
Заслуженный участник


07/08/23
1047
У неё везде градиент ненулевой. И я так и не понял, какое условие она нарушает. При каком-то $x$ она становится невыпуклой по $y$?

 Профиль  
                  
 
 Re: Имеет ли функция многих переменных локальные минимумы?
Сообщение18.09.2023, 18:28 


18/09/23
32
dgwuqtj в сообщении #1610346 писал(а):
У неё везде градиент ненулевой

$$ \frac{\partial f}{dx}=2x+2y, \frac{\partial f}{dy}=2x+2y-1$$

 Профиль  
                  
 
 Re: Имеет ли функция многих переменных локальные минимумы?
Сообщение18.09.2023, 18:33 
Заслуженный участник


07/08/23
1047
Ага, поэтому не существует точки, в которой обе частные производные обнуляются.

 Профиль  
                  
 
 Re: Имеет ли функция многих переменных локальные минимумы?
Сообщение18.09.2023, 18:34 


18/09/23
32
ну да, у неё вообще нет экстремумов

-- 18.09.2023, 18:39 --

с этим ясно, может быть такая функция вообще без экстремума, но вопрос немного в другом
могут ли появляться при указанных условиях локальные минимумы, т.е. может их быть больше одного?

-- 18.09.2023, 18:40 --

dgwuqtj
тема то называется именно так

-- 18.09.2023, 18:48 --

Для большей конкретики
$$f_k(x_1,...x_n, y_k)=\frac{g(x_1,...x_n)}{ y_k}+y_k$$

 Профиль  
                  
 
 Re: Имеет ли функция многих переменных локальные минимумы?
Сообщение18.09.2023, 21:07 
Заслуженный участник


07/08/23
1047
Missiir в сообщении #1610353 писал(а):
Для большей конкретики
$$f_k(x_1,...x_n, y_k)=\frac{g(x_1,...x_n)}{y_k}+y_k$$

Я не знаю насчёт нескольких локальных минимумов, но $\frac{x^2 - 1}y + y$ не является выпуклой при $y > 0$. У неё определитель матрицы Гессе равен $-\frac 4{y^4}$, ну и локальных минимумов вообще нет.

 Профиль  
                  
 
 Re: Имеет ли функция многих переменных локальные минимумы?
Сообщение18.09.2023, 21:52 


18/09/23
32
dgwuqtj в сообщении #1610406 писал(а):
Я не знаю насчёт нескольких локальных минимумов, но $\frac{x^2 - 1}y + y$ не является выпуклой при $y > 0$. У неё определитель матрицы Гессе равен $-\frac 4{y^4}$, ну и локальных минимумов вообще нет.

именно при y>0 она является выпуклой, так как в этой области она будет проходить ниже отрезка, соединяющего две её любые точки. Возможно, Гессиан отрицательный из-за разрыва в нуле.

-- 18.09.2023, 21:54 --

локальных минимумов нет, но есть глобальный (правда комплексный), в точке:
$$y=\sqrt{-1}, x=0$$

-- 18.09.2023, 22:09 --

Ну и опять же, вопрос состоит в том, может ли быть 2 или более минимумов в таких условиях.

Для большей конкретики уточняю, что F() ограничена снизу положительным значением, так, что 1 минимум в области y>a у неё всё же есть. Но может ли быть второй?

-- 18.09.2023, 22:14 --

Я проводил численный эксперимент, запускал градиентный спуск из множества разных начальных точек. И всё время процесс достигал глобального минимума. Повторял очень много раз, но локального минимума ни разу не обнаружил. Но уверенности нет, что его не может быть. Нужны какие то теоретические обоснования.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 59 ]  На страницу 1, 2, 3, 4  След.

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: DariaRychenkova


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group