Пока мне не понятно как определить координаты центра окружности, хотя знаю,что он лежит на линии центров.
А Вы запишите условия для любой точки этой окружности, т.е. для треугольника. Две стороны у него - радиусы сферы и шара, третья сторона, которая и соединяет центры - расстояние между центрами. Радиус окружности - высота из точки на третью сторону. Два прямоугольных треугольника (с общим катетом - высотой), в систему уравнений их и решать. Ну а углы при вершинах (достаточно только одного, у сферы) можно найти из теоремы косинусов.
-- 27.08.2017, 18:21 --Так расстояния точек окружности до центра шара меняются.
Окружности - нет, не меняются, всегда равны радиусу шара. Как и до центра сферы равны радиусу сферы.
Вот для внутренности окружности - да, меняются, ну и что? Ведь достаточно вырезать из сферы кусочек от полюса до некоторой параллели, угол которой и посчитать через окружность пересечения внешней границы шара и сферы. После получения этого угла про шар можно забыть, достаточно лишь сферы.
-- 27.08.2017, 18:30 --Да, окружность - лишь для трёхмерного пространства, для больших размерностей это будут гиперсферы. Но опять же, принципиально ничего не изменится, кроме количества координат в суммах. Ну и размерности единиц конечно.