Попробовал запустить на Maple 10 со всеми последними апдейтами. Думает вот уже несколько часов без какого-либо проблеска решения. Так что, версия мапла тут не при чем. Одно из двух: либо в мапле есть какой-то баг, из-за которого он не может (быстро) решить это уравнение, либо же это уравнение настолько сложное, что быстро его никак не решишь.
В качестве альтернативы маплу можно попробовать
Maxima - это бесплатный мат.пакет символьных вычислений, который также умеет решать дифференциальные уравнение.