Вариационное исчисление: Краснов М.Л., Макаренко Г.И., Киселев А.И. Вариационное исчисление Задачи и Упражнения , Пантелеев А.В. Вариационное исчисление в примерах и задачах, Галеев Е.М. - Оптимизация: Теория, примеры, задачи, аналогичные книги авторов кафедры ОПУ мех-мата.
Теория групп: Вавилов - Конкретная теория групп, Каргаполов Мерзляков - Основы теории групп, Богопольский О.В. - Введение в теорию групп, Белоногов - Задачник по теории групп, старый задачник Ляпин Е.С., Айзенштат А.Я., Лесохин М.М. Упражнения по теории групп, начала теории групп хорошо написаны в учебниках Винберга и Кострикина, есть куча отличных учебников на английском, например,учебник Derek J.S. Robinson в серии GTM и еще десятка три учебников разного уровня.
По функциональному интегралу: прежде всего, монография Смолянов О.Г., Шавгулидзе Е.Т. Континуальные интегралы, но это редкое издание изд-ва МГУ. Шавгулидзе недавно сказал мне, что вот-вот выйдет расширенное переиздание этой книги в одном из центральных издательств, оригинал-макет уже вычитан (мне обещан подписанный авторский экземпляр
).