Результатом интегрирования получается функция arctanh(1/sqrt(3))/(sqrt(3)),
Гиперболический арстангенс определён только при аргументах, по модулю меньших единицы; соответственно, гиперболический арккотангенс -- наоборот, при по модулю больших единицы. За этими пределами они формально выражаются через обычные, тригонометрические арктангенс и арккотангенс. Но дело не в этом, а в том, что если Вы нарвались на подобную ситуацию, то это означает наличие на промежутке интегрирования особой точки, в которой подынтегральная функция ведёт себя примерно как

. И было бы странно, если бы вольфрам в такой ситуации не указал бы на расходимость.
Хотя понять, что Вы, собственно, пытались написать -- конечно, совершенно невозможно.