Как это не совпадают? Несовпадающие смешаные частные производные чтобы построить - потрудиться надо. Они совпадают всюду, где непрерывны.
Расхожий термин - сомнительный случай. От кого бы услышать, что это означает? А случай трёх переменных из-за ентих A,B,C для многих так и остаётся покрытым полным туманом.
Вот разложим функцию
![$f(x)$ $f(x)$](https://dxdy-04.korotkov.co.uk/f/7/9/9/7997339883ac20f551e7f35efff0a2b982.png)
в точке
![$x_0\in \mathbb R^n$ $x_0\in \mathbb R^n$](https://dxdy-01.korotkov.co.uk/f/0/3/f/03f93c2f42bce51c4893db9d0cf8ed4582.png)
, в которой первый дифференциал обратился в 0:
![$f(x_0+\Delta x)-f(x_0)=\frac12 d^2f(x_0)+o(|\Delta x|^2)$ $f(x_0+\Delta x)-f(x_0)=\frac12 d^2f(x_0)+o(|\Delta x|^2)$](https://dxdy-04.korotkov.co.uk/f/7/1/e/71e88579e7de12cbaeb129345985a96a82.png)
При определении знака приращения в достаточно малой окрестности остаточным членом
![$o(|\Delta x|^2)$ $o(|\Delta x|^2)$](https://dxdy-03.korotkov.co.uk/f/a/9/2/a92ab48d83f34616cedc4e69c04d995f82.png)
можно пренебречь в случаях строгой определённости (положительной или отрицательной) или знакопеременности второго дифференциала - это ведь квадратичная форма относительно
![$dx_1, \ldots, dx_n$ $dx_1, \ldots, dx_n$](https://dxdy-03.korotkov.co.uk/f/a/7/8/a78a509237c9f2925cad87d69717394082.png)
.
Эти A,B,C возникают по критерию Сильвестра только в случае двух переменных, когда и без них всё прозрачно - выделил полные квадраты и всё.
В Вашем случае
В обеих точках Ваша квадратичная форма состоит из одного квадрата с положительным коэффициентом и следовательно положительно полуопределена (отрицательных значений не имеет, но обращается в 0 при любых ненулевых смещениях по оси ординат). Можно уже сказать, что в этой точке нет максимума, однако остались возможными направления в сторону падения значений функции. Их следует попытаться нащупать вручную или доказать их отсутствие. Никакие A,B,C уже не помогут.
Попробуем? С какой точки начнём?