В Бахвалове написано, что

сходится, если собственные значения

матрицы

меньше 1 по модулю (или надо

?

)
Для сходимости необходимо и достаточно, чтобы все собственные числа матрицы

были по модулю меньше единицы (необходимо, поскольку имеется в виду сходимость при любом начальном приближении). Это не метод Зейделя, а метод простых итераций, причём в простейшем варианте -- без введения параметра. Условия сходимости гарантированы, например, диагональным преобладанием матрицы, и когда вам предлагали попереставлять уравнения -- имели в виду, видимо, добиться такой перестановкой именно диагонального преобладания (изредка это возможно).
Можно сделать так: положим

, тогда собственные значения новой матрицы примут вид

.
Какой такой новой-то?... Матрица

от этой замены не изменится, другим станет

, однако сходимость определяется именно матрицей

и совершенно никак не зависит от

.
Параметр стандартно вводится совсем по-другому:

, т.е.

, что соответствует итерационной процедуре для решения уравнения

, где

. Иногда при удачном выборе

удаётся добиться того, чтобы матрица

стала сжимающей. Во всяком случае, для симметричной матрицы

этот трюк помогает тогда и только тогда, когда матрица

положительно определена.