В общем нужно посчитать меру сектора круга OAB:

Где углы YOA, AOB,BOX равны.
И посчитать интеграл Лебега 

, где 

 по данному сектору.
Не считать же меру по определению внешней меры. Может как то теорему Фубини применить, но в интегралах Лебега я не не разбираюсь.