Приравнял правые части к нулю и нашел два состояния равновесия (0,0) и (0,a).
К сожалению, дальше всё пошло не очень хорошо. Потому что поиск других состояний равновесия не так прост
Ну а чего там такого? Второе уравнение распадается на два:

и

.
Подставляя

в первое уравнение, получаем корни

и

, что даёт решения системы

и

(кстати, на фоне того, что Вы пишете

и

, очень нехорошо писать второе решение как

).
Подставляя

в первое уравнение, получим для

квадратное уравнение. Конечно, решение получается немного громоздким, но ничего страшного не вижу. Корни вполне выписываемые.