Для начала автору нужно определиться с видом "уравнения окружности" в 3-х мерном случае. Штука-то явно искусственная - обычно пространственную кривую задают как пересечение двух поверхностей.
Тут вся публика не может определиться, а Вы хотите чтобы ТС.....
Во-первых, задача имеет не единственное решение.В том смысле, если окружность задавать системой, то систем может бесконечно много.
Существует бесконечно много пар сфер, которые пересекаются по искомой окружности и каждая пара будет уравнением искомой окружности.
А также пересечение плоскости и сферы (плоскость, естественно, одна, содержащая три заданные точки)
Параметрические уравнения определяют искомую окружность "однозначно" с точностью до вращения вокруг центра в плоскости трех заданных точек.
Задача учебная, так что решение выкладывать нельзя. Скажу только, что радиус искомой окружности равен
трем, а центр находится в точке
(1;1;1)