Не знаю как инверсией, но задача довольно неплохо решается в лоб.
Опустим из точки

перпендикуляр на

, основание перпендикуляра обозначим

. Пусть

,

и

. Если

и

- радиусы окружностей, то

(из прямоугольного треугольника

)

(из

)
Тогда


По известной формуле радиус описанной вокруг

окружности будет равен:

- ч.т.д.
(Приведено полное решение учебной задачи)