nickname2014, я алгоритм не знаю, но на мой взгляд, тут невозможно запутаться. Почти уверен, Вы уже всё сделали самостоятельно.
Во-первых, нужно проверить: есть ли уравнения c «диагональным преобладанием». В данном случае это последнее (четвёртое) уравнение. Его запишем в третью строчку новой системы.
Остальные уравнения нужно преобразовывать. Умножив второе уравнение на 3, и вычтя четвертое уравнение исходной системы, получим
. Это уравнение запишем в первую строку новой системы.
Прибавив к первому уравнению четвертое уравнение, получим ..., и запишем во вторую строку.
Прибавив к третьему уравнению линейную комбинацию второго и четвертого уравнений (ясно какую), запишем результат в четвёртую строку новой системы.
мат-ламер, я не понял Ваш алгоритм. Нельзя ли пояснить: как получается первое уравнение новой системы?