Метод Гаусса, с полным выбором главного элемента (т.е. с перестановкой и строк, и столбцов; хотя и без этого в типичных ситуациях пройдёт).
Для нахождения (столбцов) обратной матрицы A порядка N*N можно решить N систем уравнений с правыми частями - столбцами вида
(0,...,0,1,0,...,0)
где на i-том месте 1, на остальных - 0.
Решение одной системы - i-тый столбец обратной матрицы.
Решать можно методом Гаусса: один раз LU-разложить матрицу и решить для N правых частей.