Про триангуляцию раньше не слышал, посмотрю.
Ну, это вариант на вскидку. Возможно, есть и другие подходы.
Что касается перевода в декартовы и обратно: мне кажется, что это затратно по вычислительным ресурсам для такой задачи.
Так не переводите вообще. Работайте с трёхмерными векторами. Будет очень удобно. А если будут накапливаться ошибки округления, то можно их все отнормировать на радиус сферы. Тем более, что
расстояние в сферических координатах считается ещё тяжелее, чем переход от системы к системе. По ссылке, кстати, и про точность вычислений не забыли упомянуть.