На самом деле все оказалось очень просто, как и предполагал. Несколько дней узнал полный ответ.
Если вместе применить два тождества (первое из которых и предлагал использовать Xaositect):
1)
и
2)
,
то получается, что
. Практически аналогично получается, если использовать соответствующее тождество, для
. Причем, как доказывается в теореме, любой из этих коммутаторов будет трансвекцией (или единичной матрицей, но это также трансвекция).
То есть можно
представить как
, где
— это коммутатор одного из четырех видов:
.
В этом и заключается основной «фокус» понимания. Получается, что коммутатором от перемножения любых двух указанных матриц будет являться унитреугольная матрица. Унитреугольные как друг с другом не перемножать, все равно будут унитреугольные, значит
является уже группой невырожденных нижних унитреугольных матриц.
Xaositect, спасибо, Вы были правы, что нужно было использовать это тождество.