Arhelius, во-первых, захватывать чужие темы нехорошо.
Во-вторых, матрица системы тут не очень нужна. Надо открыть учебник и прочитать теорию Штурма о колеблемости. Имеется необходимое условие устойчивости, которое состоит в том, чтобы уравнение было колеблющимся (т.е. каждое решение имело бесконечно много корней) и чтобы корни

удовлетворяли неравенству

.
Уравнение

при

при

всяко неустойчиво.
Потому что либо оно неколеблющееся, либо колеблющееся, но

.
В-третьих, слово "асимптотика" начинается с буквы "а".