У Вас же система почти трёхдиагональна, только одна из строк матрицы содержит дополнительные ненулевые элементы.
На самом деле это не совсем верно. Поясню на примере случая, когда образующий систему линейных уранений граф имеет 3 луча:
Количество лучей, также как и число вершин в каждом из лучей, может быть произвольным, но для пояснения метода решения можно ограничится рассматриваемым случаем, т.к. для других случаев все преобразования будут совершенно аналогичны.
Если условится, что граф определяет систему линейных уравнений по правилу: каждой паре последовательных вершин вершин соответствует одно линейное уравнение. Последовательные пары вершины берутся при движении от центра графа по его лучам. При этом неизвестные, входящие в одно такое уравнение соответствуют ребрам графа, примыкающим к выделенной паре последовательных вершин. Записав все уравнения, получим систему линейных уравнений следующего вида (я ее назвал "звездчатой"):
Здесь звездочками обозначены ненулевые элементы матрицы системы и правая часть. Заметим, что система состоит из 3-х блоков уравнений по числу лучей. Причем в каждом из блоков уравнения имеют вид близкий к 3-х диагональному, т.к. только последнее уравнение "зацеплено" с 2-мя другими блоками.
Теперь, как Вы предлагаете, делаем прямой ход прогонки, который, как и в классическом случае состоит из стандартной процедуры "изничтожения" нижней диагонали маленьких трехдиагональных матриц. В результате система примет вид:
Теперь "изничтожим" элементы матрицы, которые ответственны за связь уравнений из разных блоков. Для этого, действуя стандартными элементарными преобразованиями из метода Гаусса, будем брать поочередно последнее уравнение из кадого блока и с его помощью обнулять элементы, находящиеся вне 2-х главных диагоналей. В результате матрица системы примет вот такой 2-х диагональный вид
Итак, в каждом из выделенных скобками блоков, можно применить обратный ход прогонки:
ewert, большое спасибо за подсказку. Задачка хоть и простая, но я понял как ее решать, только прочитав Ваш ответ.