Вы имеете в виду этот определитель?

В нашем случае

и

— вещественная и мнимая части комплексного числа. Вам нужно их, а также

выразить через

и

.
После этого, складывая и вычитая столбцы, а также убирая множители вроде

,

и подобные, можно будет привести полученный определитель с

и

к красивому виду. Неудобство заключается в том, что в определитель теперь входят комплексные числа, и его значение должно быть комплексным числом, т.е. как бы получаются два вещественных уравнения. Однако вещественная часть определителя будет равна нулю тождественно (для любых

), а вот равенство мнимой нулю даст уравнение окружности. Но это я сильно забегаю вперёд, и не уверен, что Вы меня сейчас понимаете.