tematema, у вас на втором рисунке пересечение трёх окружностей непусто, а на первом только пересечения не меньше чем двух окружностей непусты. Может, стоит сделать пересечение больше чем двух и в случае трёх пустым?
Размер может быть много каким, потому что вы не все параметры зафиксировали. У вас есть целая плоскость (ну, ограниченный её кусок) возможных конфигураций, а хочется вам на ней найти кривую «правильных». Можно попытаться нанести точки хороших на вид примеров на эту плоскость, а потом поинтерполировать на них что-нибудь.
Может быть, удобнее будет выбрать одной из координат на том кусочке плоскости не радиус
окружности, на которой лежат центры кругов, а радиус
наименьшей включающей их все окружности — его просто найти по размерам области рисования. И если картинка при масштабировании области рисования без изменения её пропорций должна просто так же масштабироваться, тогда выбор надо сделать только между линиями
— только одномерное пространство. Ну, тут вы уже легко подберёте
.