Вообще-то лучше не мелочиться, а решать задачу сразув
и искать для соответствующих единичных векторов
косинус угла между ними
.
Эти векторы заведомо линейно зависимы:
. Скалярно умножая это равенство последовательно на каждый из векторов, получим для коэффициентов
однородную систему линейных уравнений с матрицей
У этой матрицы есть очевидный собственный вектор
. И именно он должен давать решение системы, поскольку у всех остальных собственных векторов собственные числа
(матрица есть линейная комбинация единичной матрицы и матрицы ортогонального проектирования на
). Отсюда сразу же получаем искомый косинус плюс кое-что ещё, заранее не очевидное.
Правда, это ещё не доказывает, что такой набор векторов действительно существует, с этим пришлось бы немного повозиться. Но ведь в задачке такого доказательства и не запрашивалось!