Конечная группа представляется матрицами, это верно, но отсюда Вам всплывать придётся долго. ИСН
Над каким полем/кольцом? Существует ли конкретный алгоритм представления?
Конечная группа вкладывается в группу подстановок. Конкректный алгоритм (правые сдвиги) - в доказательстве теоремы Кэли.
Отображение

, где

и

при
является вложением группы подстановок в группу унимодулярных матрицу любого кольца с единицей - это тоже где-нибудь написано, легче самому проверить, чем искать.
Зачем перебирать все группы? Используйте теорему Кэли, дальше - очевидно.
Он пошутил. С порядком три разобрались. Берём четвёртый. Либо в группе есть элемент 4-го порядка либо его нет.
Если таковой есть, то ...
Если такового нет, то какого есть? Что он породит? Берём ещё один ...
Это и есть перебор, который сразу предложил ИСН.