Есть такой способ решения геометрических задач (алгебраический): вводишь одну или несколько неизвестных, затем составляешь столько же уравнений относительно этих неизвестных, получаешь систему и решаешь ее.
В Вашей задаче введя неизвестные х и у одно уравнение легко получается из Вашего равенства с

, Второе можно получить из теоремы косинусов.
Много подобных решенных примеров есть в книге Ткачука "Математика абитуриенту" урок 26.