у меня получилось следующее:

Затем я 2 внутренних интеграла взял в -1 степень и избавился от дроби

Это получились как оказалось табличные интегралы если верить Википедии :)

а вот для

ммм нашел вот такой табличный интеграл:

вроде подходит если

представить в виде:

Значит ответ:

я надеюсь я решил правильно?
upd я нашел в интернете онлайн калькуляторы интегралов ответ вроде сошелся за исключением что вместо arctan у них tan в -1 степени.