Как это не совпадают? Несовпадающие смешаные частные производные чтобы построить - потрудиться надо. Они совпадают всюду, где непрерывны.
Расхожий термин - сомнительный случай. От кого бы услышать, что это означает? А случай трёх переменных из-за ентих A,B,C для многих так и остаётся покрытым полным туманом.
Вот разложим функцию
в точке
, в которой первый дифференциал обратился в 0:
При определении знака приращения в достаточно малой окрестности остаточным членом
можно пренебречь в случаях строгой определённости (положительной или отрицательной) или знакопеременности второго дифференциала - это ведь квадратичная форма относительно
.
Эти A,B,C возникают по критерию Сильвестра только в случае двух переменных, когда и без них всё прозрачно - выделил полные квадраты и всё.
В Вашем случае
В обеих точках Ваша квадратичная форма состоит из одного квадрата с положительным коэффициентом и следовательно положительно полуопределена (отрицательных значений не имеет, но обращается в 0 при любых ненулевых смещениях по оси ординат). Можно уже сказать, что в этой точке нет максимума, однако остались возможными направления в сторону падения значений функции. Их следует попытаться нащупать вручную или доказать их отсутствие. Никакие A,B,C уже не помогут.
Попробуем? С какой точки начнём?