Что означает такая запись над матрицей?

[Sverest]

$\begin{bmatrix} & \\ & \end{bmatrix}^{-1}$

[Aritaborian]

Матрица, обратная к данной.

[arseniiv]

Скобки входят в обозначение матрицы, так что зря вы их набрали. (Конечно, некоторые используют $[]$ для группировки, но сложно представить себе матрицу, окружённую ещё одной парой скобок.)

[Munin]

Наверное, он не знает, как обозначить матрицу буквой, так что не зря. Хоть понятно, о чём речь.