ну и потом нахожу
а из этого интеграл не берется никак
Во-первых, это пока ещё не интеграл, а уравнение с разделяющимися переменными, вот и разделяйте (интеграл там получится хоть и немного противненький, но вполне берущийся). Во-вторых, Вы в самом конце забыли извлечь квадратный корень. В-третьих, ваши действия намекают на то, что решали Вы не то уравнение, что в самом начале, а
Если же всёж-таки именно
то замену надо делать вовсе не
(как у Вас подразумевалось), а
и тогда просто
В общем, выбирайте.