3)Посмотрела учебник Каргаполов, Мерзляков Основы теории групп, глава Конечные группы. Там просто сказано, что "эта формула умножения определяет неабелеву группу порядка

", а объяснения нет( Как получена формула конечная

?
Неправда, есть (3-е изд., стр. 101, п.11.2, б)). Разбирайте и спрашивайте конкретно, что непонятно.
Если не нравятся Каргаполов-Мерзляков, возьмите Холла (стр.60).
Цитата:
и почему она определяет некоммутативную группу?
Этого, действительно, нет в книгах. На самом деле нужно "предъявить" конкретную группу с нужными свойствами. Для этого возьмите пары

, где

, задайте умножение по правилу

(т.е. так, как в формуле из книг) и докажите, что получилась группа порядка

.
А образующими у нее являются пары

и

, для которых нужные соотношения выполняются.