Думал, что где-то найду готовое доказательство этого довольно известного факта, да что-то не нашёл.
Написанное мною верно для сингулярной нормы матрицы (т.е. максимального по модулю собственного значения), которая подчинена евклидовой норме вектора.
Пусть

--- положительно определённая матрица,

, а

--- собственное значение матрицы

. Оценим

сверху:

.
учитывая положительную определённость A, а также, что

, т.е. максимальное собственное значение

не превосходит

, получаем:

, откуда

, т.е.

--- матрица, задающая сжимающее отображение, откуда всё и следует.
Если нужно подробнее разжевать, то можно почитать теорему о необходимом и достаточном условии сходимости метода простой итерации (см., например,
Бахвалов Н.С., Жидков Н.П., Кобельков Г.М. — Численные методы, гл. 6, пар. 3 "Метод простой итерации").
Пусть теперь

--- произвольная невырожденная матрица. Тогда

--- положительно определённая матрица, и к ней можно применить вышеописанные рассуждения. Отсюда и получается оценка

, гарантирующая сходимость.
Добавлено спустя 6 минут 32 секунды:
Предупреждаю, что для плохо обусловленных матриц этот метод катастрофически плох. Дело в том, что число обусловленности матрицы

является квадратом числа обусловленности матрицы

. С точки зрения вычислителя это означает: если наилучший метод решения системы

требует n дополнительных значащих цифр в промежуточных вычислениях, то рассмотренный метод потребует 2n дополнительных значащих цифр.