Я посмотрел тему вариационных исчислений, а точнее уравнение Эйлера Логранжа.
Насколько я понимаю, если у нас есть интегральный функционал, например (для простоты)

;
Нам необходимо найти вариационную производную в точке ноль

;

;

;
поскольку

не равно нулю, получаем наше уравнение Эйлера Логранжа:

_______________________________________________________________
Итак, теперь к нашей задаче, упростим функционал и получим:

;
значит

воспользуемся уравнением Эйлера Логранжа

;
так как по условию

поскольку

отсюда

_______________________________________________________________
Где же ошибка в рассуждениях?
И зачем по условию дан

?