Если глупость, сильно не бейте.
Может быть решать по отдельности, первое с третьим, потом второе с третьим, а потом проверить совпадают (близки) ли корни? При этом если не ошибаюсь первое (и второе) уравнение можно существенно упростить (занулить коэффициенты при смешанных произведениях координат) поворотом системы координат, на сферу это не повлияет.
Повлияет, нужен не просто факт пересечения.
-- 14.05.2017, 01:06 --Ваша система легко сводится к системе из двух полиномиальных уравнений с двумя неизвестными. Затем можно найти результант полиномов, входящих в систему, приравнять его нулю и получить таким образом уравнение от одной неизвестной. Вряд ли при этих преобразованиях накопится сколько-нибудь заметная ошибка в коэффициентах.
Можно подробнее, должно быть 8 решений (в общем случае)