Думал, что где-то найду готовое доказательство этого довольно известного факта, да что-то не нашёл.
Написанное мною верно для сингулярной нормы матрицы (т.е. максимального по модулю собственного значения), которая подчинена евклидовой норме вектора.
Пусть
--- положительно определённая матрица,
, а
--- собственное значение матрицы
. Оценим
сверху:
.
учитывая положительную определённость A, а также, что
, т.е. максимальное собственное значение
не превосходит
, получаем:
, откуда
, т.е.
--- матрица, задающая сжимающее отображение, откуда всё и следует.
Если нужно подробнее разжевать, то можно почитать теорему о необходимом и достаточном условии сходимости метода простой итерации (см., например,
Бахвалов Н.С., Жидков Н.П., Кобельков Г.М. — Численные методы, гл. 6, пар. 3 "Метод простой итерации").
Пусть теперь
--- произвольная невырожденная матрица. Тогда
--- положительно определённая матрица, и к ней можно применить вышеописанные рассуждения. Отсюда и получается оценка
, гарантирующая сходимость.
Добавлено спустя 6 минут 32 секунды:
Предупреждаю, что для плохо обусловленных матриц этот метод катастрофически плох. Дело в том, что число обусловленности матрицы
является квадратом числа обусловленности матрицы
. С точки зрения вычислителя это означает: если наилучший метод решения системы
требует n дополнительных значащих цифр в промежуточных вычислениях, то рассмотренный метод потребует 2n дополнительных значащих цифр.