Не, тут проблема не в том, что итераций надо много, а в том, что решение "скачет": небольшие изменения в матрице или векторе

(а у нас неизбежно вылезут машинные погрешности) приводят к большим изменениям в решении.Я из вычметодов уже мало что помню, спросите что ли в мат. разделе
что делать если надо решить методом Зейделя плохо обусловленную систему.
Спрашиваю.
В частности,
программа не хочет решать специально подобранную систему

с большим числом обусловленности:

хотя с обычными системами она справляется, то есть сама программа работает. Про сам алгоритм подробнее в указанной теме. Изменение начального приближения не помогает: алгоритм начинает сходиться к другому решению, но всё равно неверному.