[
nn910, извините, не понял рассуждений   :?   можно по наглядней....
Алексей К.
По правде сказать, я уже с этой системой возился, только к своему стыду от косинусов избавиться так и не смог. (что такое maple не знаю). Если не сложно просветите... :oops:
Наглядней- это не ко мне, я ссылаюсь на Ваш чертеж в начале темы + обозначения 
Алексей К.Считать через инверсию с неизвестным центром труднее чем продолжать 
Алексей К.[quote="Алексей К. в 
сообщении #221423"]
Для 4-х треугольничков типа AOB пишете 4 теоремы косинусов:

(

). Исключая углы (Maple в помощь), получаете соотношение 

, 4-й степени по r, 2-й по 

.
quote]


Подставляя
Алексей К. и избавляясь от радикалов, 

 (После проверки исправил 16 в знаменателе на 4)
Это уравнение 4-й степени обращается в тождество при 

 или 

.Если же последнее слагаемое уравнения отлично от 0, то имеется 4 корня 
r. Два интересные-искомый радиус и "минус радиус" описанной окружности вокруг четырех 

 Два других либо комплексные, либо лишние (пришли в ходе избавления от радикалов)
Осталось рассмотреть случай 

 Пусть y -расстояние от точки О до прямой BD, причем Y-проекция О на BD. BY^2 выражается тремя способами:

 -тоже должна сводиться к уравнению 4-й степени отн 
r но именно его не досчитал.Странно, почему он сложнее.