Ваш случай есть в справочнике Зайцев, Полянин "справочник по обыкновенным дифференциальным уравнениям" в разделе лин. ур. 2-го порядка под номером 103.
Там приведена таблица для случаев, когда уравнение вида
![$\[({a_1}x + {a_0}){y^{''}} + ({b_1}x + {b_0}){y^'} - m{b_1}y = 0\]$ $\[({a_1}x + {a_0}){y^{''}} + ({b_1}x + {b_0}){y^'} - m{b_1}y = 0\]$](https://dxdy-04.korotkov.co.uk/f/7/8/4/7848160d9bfeaf9260d701cfeee07cb482.png)
имеет известные решения, и ваш случай есть в таблице.
Если я не ошибся в подсчёте, то частное решение вашего уравнения
![$\[y = {(x + 1)^{a + \frac{1}{2}}}{Z_{2a + 1}}(2\sqrt { - {a^2}} \sqrt {x + 1} )\]$ $\[y = {(x + 1)^{a + \frac{1}{2}}}{Z_{2a + 1}}(2\sqrt { - {a^2}} \sqrt {x + 1} )\]$](https://dxdy-01.korotkov.co.uk/f/4/f/6/4f607dae6746c87ccc6e39a03f5c639382.png)
где
![$\[{Z_\nu }(x)\]$ $\[{Z_\nu }(x)\]$](https://dxdy-02.korotkov.co.uk/f/1/1/1/111ff3ac2928a0109bb58b3113ffbaf482.png)
это обыкновенная функция Бесселя.
Далее приводите её к модифицированной(если хотите) и ищете второе решение уравнения(например формулой Остроградского-Лиувилля или понижением порядка). Должно получится именно то, что выдала машина.
P.S. Моя Mathematica 9 даёт ответ в другом виде (более плохом, даже после максимального упрощения)
