ИСНВот беру я систему:

Получаю окружности. Это понятно, точка устойчива. А вот если взять нелинейную систему, которая линеаризуется к данной:

Я решил эту систему численно в матлабе и получил что-то такое:

Если увеличить время, то видно, что траектория наматывается не по идеальной окружности, но, все же, по окружности:

Но это, все же, случай, когда устойчива точка. А Вы не могли бы подсказать пример, когда будет неустойчива?