Нет, практически никакого геометрического смысла найти без натяжек не удастся, сугубо алгебраический.
Конечно же, у элементарных преобразований есть геометрический смысл (можно сказать, что только геометрический и есть). Посмотрите на примерах, что делают матрицы элементарных преобразований: растяжения, отражения и трансвекции. Трансвекции, конечно, самые важные из них: они осуществляют такое «скашивание» в двумерном подпространстве. У них огромное количество чисто геометрических приложений: например, понятно, что такое преобразование можно производить «постепенно» непрерывным образом (домножив аргумент трансвекции на переменную
, пробегающую значения от нуля до единицы). Если матрица лежит в элементарной подгруппе полной линейной группы (то есть, раскладывается в произведение трансвекций), то она, следовательно, в некотором смысле «стягивается» к единичной: на этом основаны многие идеи в гомотопической теории. Кроме того, известно, что матрица поворота (в двумерном пространстве) раскладывается в произведение трех трансвекций: это разложение имеет конкретные приложения в компьютерной графике. Известно, что над хорошими кольцами почти любая обратимая матрица является произведением трех унитреугольных (а унитреугольная очевидным образом раскладывается в произведение трансвекций).