ортонормированную систему векторов образующую собой базис пространства решений.
Система неоднородна, поэтому у неё нет "базиса". Термин "фундаментальная система решений" принято использовать только для однородных задач.
лихо же Вы добавили разрядов в число, забыв, что у нас все типы имеют жестко фиксированные размеры.
А он и есть фиксированный: 15-16 значащих цифр -- это стандартный формат double. А добавил я их намеренно -- чтобы продемонстрировать Вам погрешность, вносимую Вами огруглением до 12-ти разрядов.
То есть Вы предлагаете прогонять матрицу методом Гаусса в общем случае 2 раза.
Какие ещё два? Это -- стандартный метод Гаусса (Вы ж его хотели), другого и не бывает. Разве что диагональные элементы нормируются в самом конце (по стандарту -- на каждом шаге). Но это сделано лишь для наглядности, и никакой роли не играет.