Задача сводится к нахождению описанной окружности вокруг правильного n-угольника такого, что каждая его сторона будет равна двойному радиусу

. Тогда радиус искомой окружности будет радиус описанной окружности вокруг данного n-угольника + r.
Пусть радиус данных окружностей

. Тогда для количества окружностей равного

получаем правильный n-угольник со стороной

. Радиус описанной около него окружности будет:

Откуда радиус искомой окружности:

.
Начиная с некоторого значения

, когда расстояние между внутренними дугами двух вписанных противоположенных окружностей превысит

, внутрь можно будет поместить еще окружность. Причем по тому же самому принципу. Поэтому можно рассчитать для любого

.
Единственно, что надо потрудиться рассчитать сколько будет вложений. Тут согласен, что универсальная формула будет трудоемкой.
В частности, первую дополнительную окружность можно будет поместить начиная со значения

такого, что

. Откуда

или

. Откуда

. Откуда

.
Таким образом, начиная с

для заданного радиуса уже поместится внутрь не

, а

окружностей.
Далее принцип тот же. Две окружности внутрь первого кольца окружностей поместить нельзя, только три. Расчет аналогичен. Когда число внтутренних окружностей достигнет

внутрь них снова можно будет поместить новую окружность и так далее! Количество вложений колец может расти до бесконечности.
Является ли данный алгоритм единственным, сказать не могу. Но скорее всего, да.
-- Пт авг 21, 2009 19:05:34 --Для сорока окружностей необходимо будет посчитать число колец и как следствие число окружностей, которое в данное число колец уместится. Если число окружностей в первом (внешнем) кольце будет

, то радиус внутреннего кольца, образованного вписанной в это кольцо окружности будет:

.
В свою очередь, в эту окружность поместится кольцо из окружностей с количеством, не большим:

Чтобы точно считать, эту формулу надо упрощать. Я этим заниматься не стал, а посчитал на компьютере. Для 40 окружностей у меня получилось 4 кольца:

и

окружности в каждом. Таким образом, искомый радиус составил:
