дана верхняя полуплоскость и вырез по действительной оси от 0 до 1
Так не бывает -- или полуплоскость, или разрез Вы перепутали.
А когда условие исправите, попытайтесь для начала возвести в квадрат. Во что это перейдёт и не станет ли картинка проще?...