в каком случае можно привести задачу к треугольному виду?
Да, именно в любом. Что вращения, что отражения -- способны обнулить любой подстолбец. А если матрица на каком-то шаге вдруг окажется вырожденной, то достаточно просто передвинуться на соотв. столбец вправо.
-- Вт сен 15, 2015 20:29:54 --(Оффтоп)
Всё, по-моему, достаточно просто и всегда выполнимо.
А вот это уже как сказать. Теорекхтицски -- да, пракхтицски же обязательно учитывать ошибки округления. Т.е. если некий столбец оказался практически нулевым в пределах точности, то надо предпринимать какие-то меры.