В чём проблема? В процессе решения нужно оценивать норму матрицы, обратной к матрице Гильберта (в какой-нибудь матричной норме)
Конечно, есть явные выражения для элементов матрицы, обратной к матрице Гильберта, но в силу громоздкости вычисления этих элементов возникают проблемы при её формировании на компьютере.
А, допустим, выражения были бы попроще, и Вам удалось бы оценить норму обратной матрицы по известной обратной матрице. Я предполагаю, что Вы намерены честно освоить хороший метод. Вас не смущает, что метод решения СЛАУ требует предварительного знания обратной матрицы?