В ЛЛ-1 объясняли положительность массы как условие минимальности соответствующего лагранжиана. Можно ли рассматривать отрицательный случай?
Вообще можно - и отрицательный, и вырожденный.
Но вот я хотел
Red Herring к этому подтолкнуть, а он что-то умолк.
Мне это встречалось в Прохорове-Шабанове, но вообще книжка не для начинающих.
Я не понял ваши примеры, причем здесь производная поверхности?
При том, что вариационная задача аналогична простой задаче на отыскание минимума через приравнивание производной к нулю. Только вариационная задача рассматривается в бесконечномерном пространстве, где вместо функции задан функционал (формально тоже функция, но принято называть иначе, чтобы показать уважение). И вместо дифференциала функции - вариация этого функционала. А так, кроме бесконечномерности, идейно это то же самое.
Могут быть такие стационарные функционалы, которые имеют минимум. Могут быть такие, которые имеют максимум. Могут быть такие, которые имеют "точку перегиба". Могут быть такие, которые имеют седлову точку. Могут быть такие, которые имеют точку безразличия. Это всё имеет аналоги на простейших функциях 1-2 переменных.
а если в зависимости от вариации может увеличивать или уменьшаться, то седловитая точка
Не "седловитая", а седловая.
А может быть и аналог кубической параболы с точкой перегиба. При этом первая вариация равна нулю, и вторая вариация равна нулю (в отличие от названных вами вариантов), а третья - уже не равна.