2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 Регуляризация по Тихонову
Сообщение27.05.2019, 19:52 
Добрый день,

позвольте Вас еще раз помучить своими вопросами.

Пусть у меня имеется задача, для заданных $b \in \mathbb{R}^N, ~~ a \in \mathbb{R}^M, F \in \mathbb{R}^{N \times M}$, $||a||_2=1, ||b||_2=1$ найти
$$\min_{x \in \mathbb{R}^N, y \in \mathbb{R}^M} ||F - x a^T - b y^T||_2^2.$$

Причем $y$ мне особо не нужно знать, а надо знать только $x$. Простыми манипуляциями можно найти решение: $x = Fa - bb^T Fa$.

Теперь я хочу решить ту же задачу минимизации, но начать слегка ограничивать Евклидову норму $y$, например, регуляризацией
$$\min_{x \in \mathbb{R}^N, y \in \mathbb{R}^M} ||F - x a^T - b y^T||_2^2+ \alpha||y||_2^2$$

На удивление, как только $\alpha>0$, решение сразу перескакивает в $x=Fa$ и никак не зависит от величины $\alpha$.

Мне же хотелось бы получить какой-то другой регуляризатор для той же задачи, но чтоб при $\alpha \to 0$ его решение стремится к $x = Fa - bb^T Fa$, но при $\alpha \to \infty$ получается как раз $x=Fa$.

Посоветуйте, пожалуйста, какой разумный регуляризатор для такой задачи можно было бы выбрать?

Спасибо!

 
 
 [ 1 сообщение ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group