По-моему, в книжке Н.И. Вавилова, "Конкретная теория групп" (а может, колец?) я прочитал про общий метод, которым надо пользоваться (возможно, для этой самой задачи, я уже не помню).
Вначале мы угадываем формулу с помощью степенных рядов, а потом уже строго ее доказываем. В данном случае пользоваться будем рядом для геом. прогрессии 

, помня о том, что умножение матриц некоммутативно. Имеем:

Нам хочется обратить 

, то есть получить ряд

Теперь, если вы ряд для 

 умножите слева на 

, справа на 

, то вы увидите, что остался лишь один шаг к нашей цели. Это даст вам догадку, как должна выглядеть формула для 

. Затем эту догадку надо обосновать аккуратной выкладкой, уже без всяких рядов.