Dmytro Sheludchenko писал(а):
Что такое определитель всего уравнения?
Определитель здесь вообще-то не совсем при чём. Имелась в виду матрица, составленная из коэффициентов уравнения, отвечающих слагаемым второй степени (коэффициенты при не чистых квадратах надо при этом уполовинить). В Вашем случае матрица -- диагональна с диагональными элементами A и B.
Так вот: кривая классифицируется собственными числами этой матрицы -- если они одного знака, то это эллипс, разного -- гипербола, если одно из них нулевое -- парабола (возможны, конечно, и вырожденные случаи).
Хотя, возможно, Вам на этом языке и не объясняли. Тогда критерием является знак выражения

, где

-- это коэффициент при

(которого в Вашем выражении нет). Для эллипсности это выражение обязано быть положительным. Но может задавать и пустое множество или точку. Чтобы проверить, что это именно эллипс, надо выделить полные квадраты по каждой переменной, перенести все константы, кроме квадратов, в правую часть и потребовать, чтобы она оказалась строго положительной.