MelounКак вариант, можно перейти в систему координат, в которой все три точки лежат в одной плоскости (допустим,

). Например, посмотрите ответ вот тут.
https://math.stackexchange.com/question ... sformationА потом уже построить уравнение окружности по трем точкам на плоскости, что не составляет труда.