Два вектора вашего подпространства угадываются что называется методом вдумчивого взгляда (подсказка: координаты у них единицы и нули). И они уже оказываются ортогональны. Вам остаётся только записать матрицу проектирования (сумма произведений столбцов на строки и на собственные числа). Собственные числа выбираются произвольно, так что ваша задача, вообще говоря, имеет не единственное решение.
-- 22.05.2016, 23:04 --
А нет, вру. Проектирование ортогональное, так что собственные числа должны быть единицами, и задача имеет единственное решение. Пары столбцы-строки надо только отнормировать.
Нашли решение системы
Скалярное произведение этих векторов - 0, значит ортогональны. Как дальше?