Ну а в чём проблема? Любую матрицу можно привести к жордановой форме (над

). Отсюда и критерий:
1) Все собственные значения нулевые.
2) Максимальный размер жордановой клетки не превышает двойки.
Соответственно общий вид матрицы следующий: нулевая матрица и матрицы вида
где

--- произвольная матрица размера 3 на 3 со свойством

.
P. S. Если вместо квадрата поставить куб (то есть потребовать, чтобы не квадрат, а куб матрицы был нулевой), то к указанным матрицам добавятся ещё матрицы вида
