По-моему, в книжке Н.И. Вавилова, "Конкретная теория групп" (а может, колец?) я прочитал про общий метод, которым надо пользоваться (возможно, для этой самой задачи, я уже не помню).
Вначале мы угадываем формулу с помощью степенных рядов, а потом уже строго ее доказываем. В данном случае пользоваться будем рядом для геом. прогрессии

, помня о том, что умножение матриц некоммутативно. Имеем:

Нам хочется обратить

, то есть получить ряд

Теперь, если вы ряд для

умножите слева на

, справа на

, то вы увидите, что остался лишь один шаг к нашей цели. Это даст вам догадку, как должна выглядеть формула для

. Затем эту догадку надо обосновать аккуратной выкладкой, уже без всяких рядов.