Первая задача не такая простая. Если поднапрячься, то можно понять, что собственное подпространство

будет инвариантным подпространством для

, и то же верно для подпространства, отвечающего жордановому блоку. Таким образом, задача распадается на блоки. Нужно научиться решать две задачи:

и

равно стандартному жордановому блоку с

на диагонали.
Решение первой задачи --- любая диагонализуемая (т. е. подобная диагональной) матрица, на диагонали которой стоят числа, косинусы которых равны

. Действительно, нетривиальна только диагонализуемость. Но если есть недиагонализуемая матрица, то приведем ее к жордановой форме и вычислим косинус. Получится какая-то блочная матрица с нетривиальными блоками, которая не может быть кратна единичной (т. к. последняя диагональна в любом базисе).
Во второй задаче надо найти матрицу, косинус от которой равен жордановому блоку с

на диагонали. Заметим, что в таком случае косинусы собственных значений

равны

. Кроме того, все собственные значения равны, т. к. иначе у X есть 2 собственных вектора, откуда у

тоже есть 2 собственных вектора, что противоречит тому, что

--- жорданов блок. Таким образом, у

есть только один собственных вектор.
Тут уже не очень понятно. Можно предположить, что в последнем классе решение единственно и равно матричному арккосинусу.
-- 14.03.2012, 03:30 --В том смысле, что матричный арккосинус по-прежнему определен неоднозначно, но вся неоднозначность приходит из скалярного арккосинуса.