Во-первых, левую часть я бы по модулю взял (либо написал

в правой части. В данном случае по умолчанию берётся абсолютная величина разности. Хотя, если порядок точек важен, то останется половинка кривой.
Переход к каноническому уравнению описан в любом учебнике по аналитической геометрии. Вам понадобятся понятие эксцентриситета, фокального расстояния.
Приём стандартный - переносим один из радикалов в правую часть и возводим уравнение в квадрат. После приведения подобных и уединения единственного оставшегося радикала повторяем процедуру.