Перейдём сперва к полярным координатам, получим
Далее будем работать сперва с областью
. Вершины треугольника найти несложно:
Переведём их в полярные координаты (
):
Далее, несложно найти, что
. Т. о. треугольник
- вписанный в единичную окружность равносторонний треугольник.
Далее находим, что центральные углы, опирающиеся на дуги
,
и
соответственно равны и составляют
.
Далее поворачиваем плоскость на этот угол. Тогда треугольник переходит в себя и мы получаем
Ответ: при
не кратном
интеграл
равен 0.