В общем нужно посчитать меру сектора круга OAB:

Где углы YOA, AOB,BOX равны.
И посчитать интеграл Лебега

, где

по данному сектору.
Не считать же меру по определению внешней меры. Может как то теорему Фубини применить, но в интегралах Лебега я не не разбираюсь.