еще вопрос, как мне найти минимальное собственное значение?
Естественно, обратными итерациями. Т.е. последовательными умножениями на обратную матрицу -- или, что то же самое с абстрактной точки зрения, последовательными решениями соотв. систем уравнений (а что выгоднее выйдет -- зависит от ситуации).
-- Пн янв 24, 2011 23:15:58 --а почему новое приближение не нормировано?
Потому что оно (в приведённом Вами варианте алгоритма) умножается на старое примерно на собственное число, которое вовсе не есть единица.