Ну какая тут теория. Вроде бы это называется символический метод или метод Хевисайда (не поручусь). Суть простая. Умножим каждое из уравнение на 

 и проинтегрируем от 0 до 

. Получим



Из первых двух уравнений выражаем 

 через 

 и подставляем в третье.
Возникнет уравнение, о котором я говорил. Далее можно сделать замену 

 чтобы смещение аргумента приравнять к 1. С этим уравнением уже можно "повозиться" и получить решение в виде некого ряда.
Шансы получить точное решение исходного уравнения весьма невелики. Но, возможно, получится некое интегральное представление.