Вот теперь все ясно. Вы понимаете матричный метод, но запутались в алгоритме вычисления обратной матрицы.
1. Исходную матрицу нужно было заменить матрицей алгебраических дополнений к ее элементам.
2. Транспонировать полученную матрицу
3. Разделить все ее элементы на определитель исходной матрицы.
Если все сделать правильно, у Вас получится:

, и дальше все пойдет как по маслу.