Да, всё правильно!
daogiauvang, воспользуйтесь тем, что результат поворота вектора на угол не зависит от центра поворота.
Кстати, результат задачи верен для любых четырёх точек плоскости

и

( в этом порядке. "Вне" означает в одном направлении при обходе точек в заданном порядке. ) с тривиальными оговорками на вырожденные случаи.