Спасибо Padawan!!!! Книжка супер, никогда не слышал о ней. Но только не до конца все понятно)))
Я так понимаю нужно с начало найти общее решение определяющих уравнений.
Вот что я пока сделал:

далее находим

потом все подставляем в определяющее уравнение
![$\eta_{xx}+(2\eta_{xy}-\xi_{xx})y'+(\eta_{yy}-2\xi_{xy})y'^2-y'^3\xi_{yy}+(\eta_y-2\xi_x-3y'\xi_y)(-\frac{y'}{x}-\frac{a}{y^3}-b)+[\eta_x+(\eta_y-\xi_x)y'-y'^2\xi_y]\frac{1}{x}-\xi\frac{y'}{x^2}-\eta\frac{3a}{y^4}=0$ $\eta_{xx}+(2\eta_{xy}-\xi_{xx})y'+(\eta_{yy}-2\xi_{xy})y'^2-y'^3\xi_{yy}+(\eta_y-2\xi_x-3y'\xi_y)(-\frac{y'}{x}-\frac{a}{y^3}-b)+[\eta_x+(\eta_y-\xi_x)y'-y'^2\xi_y]\frac{1}{x}-\xi\frac{y'}{x^2}-\eta\frac{3a}{y^4}=0$](https://dxdy-02.korotkov.co.uk/f/1/0/5/105a48dd8b3349cebd206abd4f602b1382.png)
далее получаем 4 уравнения(приравнивая члены при одинаковых степенях

):





:


:

Из первых двух уравнений можно получить:


хотя с учебником у меня не совпадает!!!!
В учебнике функция

;
Дальше не знаю, как делать((((((