Вы имеете в виду этот определитель?
В нашем случае
и
— вещественная и мнимая части комплексного числа. Вам нужно их, а также
выразить через
и
.
После этого, складывая и вычитая столбцы, а также убирая множители вроде
,
и подобные, можно будет привести полученный определитель с
и
к красивому виду. Неудобство заключается в том, что в определитель теперь входят комплексные числа, и его значение должно быть комплексным числом, т.е. как бы получаются два вещественных уравнения. Однако вещественная часть определителя будет равна нулю тождественно (для любых
), а вот равенство мнимой нулю даст уравнение окружности. Но это я сильно забегаю вперёд, и не уверен, что Вы меня сейчас понимаете.