Это задача 1405 из задачника И.В.Проскурякова по линейной алгебре, только с опечатками. Речь идёт о двумерных гранях, пересекающихся в одной точке (две плоскости в четырёхмерном пространстве, не лежащие в одном трёхмерном подпространстве, имеют только одну общую точку).
Цитата:
Найти угол между двумерными гранями

и

правильного четырёхмерного симплекса (см. задачу 1378)

.
Угол между такими плоскостями определяется как наименьший угол между лежащими в них ненулевыми векторами. Наименьшему углу соответствует, естественно, наибольший косинус.
не ясно почему они взяли такие векторы
В каждой из плоскостей нужно взять какой-нибудь базис. Почему бы не взять в качестве базисных векторы

?
эта функция-это вывод из скалярного произведения?
Эта функция - квадрат скалярного произведения. Кстати, какой угол между

и

?
и функцию рассматривают от двух переменных..

и

можно зафиксировать?
Нет. Но эту функцию можно записать как

, откуда видно, что можно максимизировать каждую из двух дробей отдельно. Если считать, что векторы

и

единичные, то и получается та рекомендация, которая дана в задачнике: искать максимум

при условии

.
что такое ко-размерность?
Размерность дополнительного подпространства.