Ваш случай есть в справочнике Зайцев, Полянин "справочник по обыкновенным дифференциальным уравнениям" в разделе лин. ур. 2-го порядка под номером 103.
Там приведена таблица для случаев, когда уравнение вида
имеет известные решения, и ваш случай есть в таблице.
Если я не ошибся в подсчёте, то частное решение вашего уравнения
где
это обыкновенная функция Бесселя.
Далее приводите её к модифицированной(если хотите) и ищете второе решение уравнения(например формулой Остроградского-Лиувилля или понижением порядка). Должно получится именно то, что выдала машина.
P.S. Моя Mathematica 9 даёт ответ в другом виде (более плохом, даже после максимального упрощения)