А вот с модулем Вам никак уже не быть.
Если решать честно такую систему, то Вы получите четыре решения, с которыми Вам еще надо будет разбираться.
Просто Вам предложили метод, позволяющий найти радиусы вписанной и трех вневписанных окружностей.
Но чтобы не мучиться, наверно все же нужно сделать хотя бы набросок чертежа, чтобы представлять, какие перпендикуляры лпроходят НА, а какие ПОД тремя данными прямыми. Тогда и понятно будет, как от модулей избавляться.
Но вот чтобы с этими штуками не мучиться, конечно (ИМХО), лучше опереться на простенькую формулу.
(Здесь S- это площадь Вашего треугольника, p - его полупериметр и r - это радиус вписанной окружности).
Три стороны найти Вы можете, равно как и угол посчитать, между любыми двумя стороонами тоже можете, Поэтому, найдя площадь данного треугольника, получите и окружность, вписанную в него.