
при таком представлении (если оно верно) решение получается долгим, громоздким
можно ли решить проще???
Введите новую переменную

(как с самого начала
jetyb и предлагал), получится:

где

-- якобиан (это константа), а

-- это треугольник

. Площадь этого треугольника квадратично зависит от

и понятно чему равна при

. Получится достаточно комфортный интеграл вида

.
Но и в лоб не так уж и громоздко выходит, требуется всего лишь аккуратность, а подынтегральные выражения будут несложными.