Arhelius, во-первых, захватывать чужие темы нехорошо.
Во-вторых, матрица системы тут не очень нужна. Надо открыть учебник и прочитать теорию Штурма о колеблемости. Имеется необходимое условие устойчивости, которое состоит в том, чтобы уравнение было колеблющимся (т.е. каждое решение имело бесконечно много корней) и чтобы корни
удовлетворяли неравенству
.
Уравнение
при
при
всяко неустойчиво.
Потому что либо оно неколеблющееся, либо колеблющееся, но
.
В-третьих, слово "асимптотика" начинается с буквы "а".