Я так понял,что там больше одного способа расположить сферы. Вот как бы эти способы в один объединить?
Способ только один. Возьмите книгу - угол, и два шарика от пинг-понга и биллиарда положите их в книгу, чтобы они касались друг-друга.
Сразу видно: только один способ, значит все расстояния определены однозначно и все можно вычислить.
Советую сразу: центры шаров лежат на плоскости симметрии угла,
прямая проходящие через центры пересекает прямую - основание угла.
Расстояние между центрами известно, известны перпендикуляры из центров на стороны угла.
Искомый отрезок тоже можно найти: там будет два равнобедренных треугольничка с вершинами в центрах шаров и основаниями на кусках отрезка АВ, между основаниями искомый отрезок.
Картинку нарисуйте без шаров. Тогда легко решите задачу.
А если хотите, можно решить методом координат через аналитическую геометрию.