Ну все, я поняла...
Сильно не уверен. Ваша беда в том, что Вы пытаетесь решать задачу, не приходя в сознание.
Вот как надо было. Пусть

-- это случайная величина, равная квадрату расстояния до центра. Тогда
по определению функции распределения

-- это вероятность того, что

, т.е. что мы попадаем в круг радиуса

. С автоматически вытекающими отсюда последствиями.
Вы же зачем-то какую-то лирику тут развели...