Если обозначить составляющие как

, то получим вполне обычную систему из 3 уравнений с 3 неизвестными. Одним из методов является метод подстановок. Долгий, нудный, но приводящий к верным результатам, если не запутаться.
Либо же можно воспользоваться методов вариации постоянных. Работает практически так же, как и для обычных (Степанов, Курс дифференциальных уравнений,2008 с 280-281)