Честно говоря не понимаю ни как решать этот дифур, ни как искать "область" устойчивости
Решать его не надо, а надо только найти область значений параметра
, при которых все решения экспоненциально убывают, т.е. все корни характического уравнения имеют отрицательную вещественную часть. Характеристическое уравнение будет кубическим, так что явно его корни, можно сказать, не находятся. Однако есть легко проверяемые критерии устойчивости. Проще всего в данном случае -- критерий Михайлова (корни "многочленов Михайлова" должны иметь правильные знаки и правильно чередоваться, а эти многочлены здесь и всего-то линейные).