Поскольку в природе существует метод Йордана, в котором матрица в конечном счете приводится к диагональному виду
Методов приведения матрицы (за конечное время) к диагональному виду не существует, будь те матрицы даже хоть трижды трёхдиагональными и даже симметричными.
но когда использую метод Гаусса-Зейделя, -- он у меня просто расходится, т.к. не выполняется условие диагонального преобладания.
Скорее всего, глюк преподавателя -- где-нибудь знаки перепутал. Ибо в нормальном режиме для краевых задач (а она у Вас явно такая, хоть Вы об этом из скромности и умолчали) этот метод гарантированно работает только в случае знакоопределённости.