логичнее было бы ввести какие-нибудь скобочки для такого окружения
Я не считаю логичным изобретать новый формализм там, где можно кратко и наглядно применить уже существующий.
можно из всех ваших записей убрать вертикальные палки
Можно. Но они служат простой цели: наглядно разделить части, которые несут принципиально разный смысл – основания и показателя значения степени числа.
фигурирует неизвестная штука

Эта штука – аддитивная часть результата произведения именно таких матриц. Любые ли матрицы обладают этим свойством?
никакой наглядности не вышло, потому что вы не привели общих определений для

. Мало ли как они должны продолжаться с

?
Не вышло, потому что вы не выполнили мою просьбу – не проверили верность соотношений простым перемножением приведённых мной матриц.
Для матрицы

я привёл самое общее определение.
Матрица

строится совершенно так же из похожей матрицы, из какой – привожу ниже.
После этого можно будет понять, тривиально это или неверно.
Или верно. В чём легко убедиться простым перемножением матриц в указанном мной порядке.

— это должна быть матрица того же вида, что и

, но для другого

?
Нет. Это матрица другого вида для того же

. Не поленитесь перемножить матрицы и вы всё увидите.
можно было не возводить в степень

прям там
Вы невнимательно прочли запись. Матрица

это степень другой матрицы.
Я не хотел загромождать первый пост, но, раз возникла неясность, распишу подробнее:

Матрица

получается, после некоторых манипуляций выходящих за рамки данного материала, из матрицы

Как вы наверняка догадались, и название и нумерация не случайны – нижние треугольные ленточные матрицы

и

образованы 1-й и 2-й строками треугольника Паскаля соответственно, стоящими на главной диагонали и первой под ней.
Если не поленитесь вычислить результат скалярного произведения, то сможете непосредственно убедиться в его верности для любой заданной степени

где

нумеруется начиная с

,

нумеруется начиная с

, матрицы имеют размерность

.