Как понять. На идейном уровне. Возьмём хороший случай, когда все функции в условии (уравнений связи может быть несколько) дважды дифференцируемы.
По необходимому условию в точке экстремума для функции Лагранжа имеем

. Отсюда находим точки, подлежащие проверке.
В такой точке

при условии, что смещаемая точка удовлетворяет уравнениям связи.
Расписываем приращение по формуле Тейлора

Нам нужен знак

. Первое слагаемое - это квадратичная форма.
При безусловном экстремуме

. В исследуемой точке в достаточно малой её окрестности о малым можно пренебречь в сранении с первым слагаемым в следующих случаях:
1) Квадратичная форма положительно или отрицательно определена, тогда знак приращения положителен или соответственно отрицателен, следовательно имеем минимум или максимум соответственно.
2) Квадратичная форма знакопеременная, тогда знак приращения в любой окрестности зависит от направления смещения и экстремума нет.
Полуопределённый случай требует индивидуального подхода. Можно лишь сказать, ч то в случае положительной полуопределённости нет максимума, а отрицательной - минимума. Обычно оставшаяся гипотеза проверяется "шевелением" точки и частенько отвергается шевелением в направлении, перпендикулярном к направлению с нулевым собственным значением.
Для условного экстремума нужна корректировка. Поскольку смещения не произвольны, то часть дифференциалов переменных выражаем из условий через остальные (погрешности уйдут в о малые) и получаем квадратичную форму от
независимых дифференциалов. Далее по предыдущему пункту.
Часто допускаемая ошибка. Знак квадратичной формы исследуется без учёта уравнений связи. Это прокатывает только в случае, если она положительно или отрицательно определена. В случае полуопределённости или знакопеременности может привести к ошибке.
-- Сб дек 24, 2011 12:47:15 --(Оффтоп)
Длинный пост - окошечко дёргается, поэтому лучше добавлю
Примеры. 1)

, квадратичная форма без учёта связи знакопеременна, а с учётом

. Тогда для

исследование успешно завершается, а

- обломный случай. Он требует индивидуального подхода.
2)

, квадратичная форма без учёта связи положительно полуопределена. Тогда минимум ещё возможен, но максимума уже точно нет. Есть минимум или нет, определится (или обломится) с учётом связи. Тогда

и имеем минимум в случае

. Обломный случай

опять требует индивидуального подхода.