Думал, что где-то найду готовое доказательство этого довольно известного факта, да что-то не нашёл.
Написанное мною верно для сингулярной нормы матрицы (т.е. максимального по модулю собственного значения), которая подчинена евклидовой норме вектора.
Пусть
![$A$ $A$](https://dxdy-02.korotkov.co.uk/f/5/3/d/53d147e7f3fe6e47ee05b88b166bd3f682.png)
--- положительно определённая матрица,
![$\tau < 2/||A||$ $\tau < 2/||A||$](https://dxdy-04.korotkov.co.uk/f/7/b/a/7ba4d08c761d13da027eb6385f07b4c782.png)
, а
![$\lambda$ $\lambda$](https://dxdy-04.korotkov.co.uk/f/f/d/8/fd8be73b54f5436a5cd2e73ba9b6bfa982.png)
--- собственное значение матрицы
![$S=E-\tau A$ $S=E-\tau A$](https://dxdy-02.korotkov.co.uk/f/5/d/b/5db540a6e27dc7a71e5e268b194ff18c82.png)
. Оценим
![$|\lambda|$ $|\lambda|$](https://dxdy-03.korotkov.co.uk/f/e/9/e/e9ec3d2487156b85abc20111733c257f82.png)
сверху:
![$$Ax = \frac{1-\lambda}{\tau} x$$ $$Ax = \frac{1-\lambda}{\tau} x$$](https://dxdy-01.korotkov.co.uk/f/0/5/3/0531ac0936a3084bc6f03f737390554b82.png)
.
учитывая положительную определённость A, а также, что
![$||A|| < 2/\tau$ $||A|| < 2/\tau$](https://dxdy-01.korotkov.co.uk/f/4/9/3/49348b7f33088007a209de3d30705e9982.png)
, т.е. максимальное собственное значение
![$A$ $A$](https://dxdy-02.korotkov.co.uk/f/5/3/d/53d147e7f3fe6e47ee05b88b166bd3f682.png)
не превосходит
![$2/\tau$ $2/\tau$](https://dxdy-04.korotkov.co.uk/f/f/6/8/f68a7db1cb71c98c18ede053895fcf9582.png)
, получаем:
![$0 < (1-\lambda)/\tau < 2/\tau$ $0 < (1-\lambda)/\tau < 2/\tau$](https://dxdy-01.korotkov.co.uk/f/8/e/f/8efd165c0f5848aa027fb8e1a9fc387582.png)
, откуда
![$|\lambda| < 1$ $|\lambda| < 1$](https://dxdy-01.korotkov.co.uk/f/c/6/1/c617be42a4586d85d1a4672b3b72e9ee82.png)
, т.е.
![$S$ $S$](https://dxdy-03.korotkov.co.uk/f/e/2/5/e257acd1ccbe7fcb654708f1a866bfe982.png)
--- матрица, задающая сжимающее отображение, откуда всё и следует.
Если нужно подробнее разжевать, то можно почитать теорему о необходимом и достаточном условии сходимости метода простой итерации (см., например,
Бахвалов Н.С., Жидков Н.П., Кобельков Г.М. — Численные методы, гл. 6, пар. 3 "Метод простой итерации").
Пусть теперь
![$A$ $A$](https://dxdy-02.korotkov.co.uk/f/5/3/d/53d147e7f3fe6e47ee05b88b166bd3f682.png)
--- произвольная невырожденная матрица. Тогда
![$A^TA$ $A^TA$](https://dxdy-01.korotkov.co.uk/f/4/a/9/4a90a521023b2e61f36dc36d23846cb582.png)
--- положительно определённая матрица, и к ней можно применить вышеописанные рассуждения. Отсюда и получается оценка
![$\tau < 2/||A^TA||$ $\tau < 2/||A^TA||$](https://dxdy-04.korotkov.co.uk/f/7/7/a/77a5be58cf805e354bd1b3130a27a7c882.png)
, гарантирующая сходимость.
Добавлено спустя 6 минут 32 секунды:
Предупреждаю, что для плохо обусловленных матриц этот метод катастрофически плох. Дело в том, что число обусловленности матрицы
![$A^TA$ $A^TA$](https://dxdy-01.korotkov.co.uk/f/4/a/9/4a90a521023b2e61f36dc36d23846cb582.png)
является квадратом числа обусловленности матрицы
![$A$ $A$](https://dxdy-02.korotkov.co.uk/f/5/3/d/53d147e7f3fe6e47ee05b88b166bd3f682.png)
. С точки зрения вычислителя это означает: если наилучший метод решения системы
![$Ax=b$ $Ax=b$](https://dxdy-03.korotkov.co.uk/f/6/f/f/6ffa573707fca115cad7b243d91a710982.png)
требует n дополнительных значащих цифр в промежуточных вычислениях, то рассмотренный метод потребует 2n дополнительных значащих цифр.