Как это не совпадают? Несовпадающие смешаные частные производные чтобы построить - потрудиться надо. Они совпадают всюду, где непрерывны.
Расхожий термин - сомнительный случай. От кого бы услышать, что это означает? А случай трёх переменных из-за ентих A,B,C для многих так и остаётся покрытым полным туманом.
Вот разложим функцию

в точке

, в которой первый дифференциал обратился в 0:

При определении знака приращения в достаточно малой окрестности остаточным членом

можно пренебречь в случаях строгой определённости (положительной или отрицательной) или знакопеременности второго дифференциала - это ведь квадратичная форма относительно

.
Эти A,B,C возникают по критерию Сильвестра только в случае двух переменных, когда и без них всё прозрачно - выделил полные квадраты и всё.
В Вашем случае
В обеих точках Ваша квадратичная форма состоит из одного квадрата с положительным коэффициентом и следовательно положительно полуопределена (отрицательных значений не имеет, но обращается в 0 при любых ненулевых смещениях по оси ординат). Можно уже сказать, что в этой точке нет максимума, однако остались возможными направления в сторону падения значений функции. Их следует попытаться нащупать вручную или доказать их отсутствие. Никакие A,B,C уже не помогут.
Попробуем? С какой точки начнём?