Действительно, не туда.
Итак. Разорвём многоугольник и вытянем в одну линию. Таких различных линий будет, естественно,

.
При этом линия

даёт тот же многоугольник, что и

,

и так далее — всего шесть.
Линия

даёт многоугольник, который переходит в себя при любом повороте, так что такие многоугольники будут подсчитаны один раз.
Линия

даёт многоугольник, который переходит в себя при повороте на две вершины, так что такие многоугольники будут посчитаны два раза.
Наконец,

даёт многоугольник, который переходит в себя при повороте на три вершины и будет подсчитан три раза.
То бишь, формула

Всё (для шести вершин). Вроде так.
Проверяющие мне говорят, что для л.Бернсайда пока рановато :) Вот это решение ведь по лемме?
. Решение я понимаю, но не понимаю как его поменять, если кол-во вершин непростое число.