После раздумий в течение часа набросал такое решение.
1) Пусть
Тогда для матрицы
существует обратная матрица
, которая определена однозначно. Решением матричного уравнения
является единственная матрица
Сравнивая с условием
, получаем, что
. Аналогично при
получаем
. Матрицы
удовлетворяют и условию
Значит, если обе матрицы невырожденные, то
.
2) Пусть
. Если
, то, как показано выше,
. Тогда
,
, то есть условие
выполняется. При этом
,
откуда следует, что
- нулевая матрица. Поэтому
(в зависимости от порядка матриц).
Рассуждая аналогично, при
,
получим
.
3) Случай, когда матрицы
и
обе вырождены, невозможен, потому что из заданных в условии задачи равенств следует, что
;
то есть обе матрицы невырождены. Этот случай был рассмотрен выше.
В результате получаем ответ задачи:
.
Правильно?
Решение не оптимальное, потому что воспроизводит ход моих рассуждений над задачей.
Надеюсь, что если решение правильно, то мне не грозит наказание за нарушение правил форума...