Попробовать ввести какой-то дополнительный параметр. Ну например, выбрать в качестве дополнительного параметра угол между отрезком
и осью
. Через него и известные координаты
записываются координаты
, поскольку угол при этой вершине прямой и известны стороны прямоугольного треугольника, то легко находятся координаты
, после чего решается уравнение, представляющее собой условие, что точка
лежит на отрезке
, и из него находится угол, введенный в начале решения.
Это явно не единственный способ (и не факт, что самый изящный), но вполне реализуемый.
P.S. Да, уже опередили. Ну что ж, поскольку предлагаемые способы почти идентичны, то, наверное, это и требуется.