Решил сам. Помогите проверить верность моего решения.
Для точки

выбираем область

, тогда,

обозначает границу. Выбираем функцию Ляпунова:

при

. Считаем полную производную по времени функции Ляпунова по определению:
Произведя элементарные вычисления, приходим:

Тогда, в области

Таким образом все условия теоремы Четаева выполнены и точка

- неустойчива по Ляпунову.
Абсолютно аналогично для точки

, только меняя все знаки на противоположные, т.е.
