vonkurt, я вчера ушёл баиньки пораньше и не успел поумничать насчёт скалярного произведения.
В функциональном анализе скалярное произведение первично. Оно вводится аксиоматически, а через него уже вводится длина вектора и угол между векторами.
В школе и на первом курсе линейной алгебры мы вначале вводим понятие вектора, его длины, угла между векторами, а потом уже скалярного произведения, как произведения длин векторов на косинус угла между ними.
Оказывается, что в ортонормированной системе координат (которые единственные и изучаются в это время) скалярное произведение равно сумме попарных произведений координат.
Если у нас есть координаты векторов, мы можем посчитать всё, что хотим.
Вашу первую задачу можно запросто решить в координатах. Я просто назначу
и скажу, что угол между диагоналями не зависит от поворота. Но это решение вряд ли обрадует преподавателя. Ему надо, чтобы Вы продемонстрирование умение раскрывать скобки в скалярных произведениях.