На плоскости обычный аппарат комплексных чисел или дуальных справляется с задачей "на ура".
С комплексными --- понятно, а вот как дуальные могут помочь? Хорошо бы пример привести.
При выходе в пространство (многоугольник остаётся в пл-сти) для исследований таких сумм пригодны кватернионы, но очень сложно получается
А какие именно суммы имеются в виду? Если сумма не знакопеременная, а расстояния до вершин правильного многоугольника берутся в чётной степени, то с помощью вычетов довольно легко получить ответ (не всегда красивый, правда).