Это задачка из вступительного заочного экзамена в ШАД Яндекса этого года. Я её решал так. Первым делом в исходном круге вводил полярные координаты
, потому что с точки зрения задачи важна только
. Из геометрических соображений ясно, что при равномерном распределении точки внутри круга плотность распределения координаты
имеет вид
. Из условия нормировки находим, что
. Дальше: при каждом фиксированном
значение
будет равномерно распределено на отрезке
, потому что именно при таких значениях
второй круг будет целиком внутри первого. Центр исходного круга окажется внутри второго при условии
. Дальше ясно, что условия
,
одновременно выполняются только при
, причем в этом случае благоприятные значения
заполняют интервал
. Вероятность того, что центр исходного круга лежит целиком внутри нового круга (прри данном фиксированном
) равна отношению длин интервалов, то есть
. Остается только проинтегрировать условную вероятность: дело сводится к интегралу
.