Иными словами, случай любого положительного

элементарно сводится к одной и той же задаче, не зависящей от

.
Да, спасибо большое за пояснение, без

будет лучше и проще решать задачу.
Это нестандартная задача, поэтому стандартные методы приложимы ограниченно.
1. Перепишите квадраты интегралов как произведения двух интегралов, по переменным

и

.
2. После этого возьмите интеграл по

и тройной интеграл по переменным

,

и

станет двойным
![$$ F[\varphi] = \iint \Bigl(\cos (\varphi -\varphi') R(\eta,\eta')\,d\etad\eta'.$$ $$ F[\varphi] = \iint \Bigl(\cos (\varphi -\varphi') R(\eta,\eta')\,d\etad\eta'.$$](https://dxdy-03.korotkov.co.uk/f/e/c/1/ec1d6a4d4788d77f66c2e8dcbe2fe3ff82.png)

и

найдите сами.
3. Рассмотрите вариацию и приравняйте к

для всех

. Получите интегральное урвнение.
Red_HerringБлагодарю Вас за ответ - я попробую разобраться в Вашем методе и решить.
-- 24.04.2022, 23:51 -- По-моему,

может быть равно

только, если оба внутренних интеграла равны нулю при всех
![$x\in [0,1]$ $x\in [0,1]$](https://dxdy-04.korotkov.co.uk/f/b/2/2/b22db4945452a857d35a63a3f0ea506682.png)
, чего не может быть. Так что минимума нет, инфинум есть, предельной функции нет.
Наименьшее

не равно нулю, это не строго очевидно, но можно расписать два интеграла через формулы тригонометрии и получится, что так.
Инфинум есть, а минимума нет - т.е. Вы имеете в виду, что инфинум"касается", но не принадлежит множеству значений

? И соответственно, нет конкретной функции

, которая обеспечит инфинум? А почему Вы так сразу решили?
-- 24.04.2022, 23:56 --Понятно, что

. Если выбрать

, то

. Интеграл от квадрата этого выражения по

можно сделать как угодно малым, выбрав достаточно большое

. То же самое справедливо и для

. Поэтому выбором

можно получить значение

как угодно близкое к 0. Значит, если

существует , то оно равно 0. Другое дело, что оптимальной функции может не быть.
Посмотрю ещё раз, о чём Вы говорите. Действительно, может быть и ноль...
Хотя стоп! Вы написали функцию

, так вот поэтому я и выбрал ранее

, чтобы заданным

ограничить модуль этой функции, а искать оптимальную

. Поэтому вопрос открытый, думаю.