Правильно ли я понимаю критерий возможности решения задачи аналитически?
Не очень понятно, что вы понимаете под "возможностью решения аналитически". Если "выразимость через элементарные функции с помощью арифметики и композиции" - то нет. Решение 

 элементарн раскладывается в ряд Тейлора (и он сходится везде), но 

 через элементарные не выражается.
Можно ли всегда найти решение моей задачи через бесконечный ряд?
Ряды бывают разные:) Если скажем 

 раскладывается в ряд Тейлора в окрестности 

 и не равна нулю ни в какой точке этой окрестности (а если равна, то интеграл до этой точки всё равно расходится), то можно разложить и 

 в той же окрестности, почленно проинтегрировать и воспользоваться теоремой Лагранжа об обращении (тут могут понадобиться еще какие-то условия, которые я забыл). Коэффициенты ряда для 

 правда могут получиться неприятными, а после теоремы Лагранжа получится что-то совсем нечеловеческое, но теоретически это работает.
А разве поможет в моем случае численное интегрирование?
Мы хотим определить, например, где будет точка в момент 

. Для простоты считаем 

 положительной - тогда нам надо просто решить уравнение 

, где левая часть монотонно возрастает и численно считается.