Приравнял правые части к нулю и нашел два состояния равновесия (0,0) и (0,a).
К сожалению, дальше всё пошло не очень хорошо. Потому что поиск других состояний равновесия не так прост
Ну а чего там такого? Второе уравнение распадается на два:
и
.
Подставляя
в первое уравнение, получаем корни
и
, что даёт решения системы
и
(кстати, на фоне того, что Вы пишете
и
, очень нехорошо писать второе решение как
).
Подставляя
в первое уравнение, получим для
квадратное уравнение. Конечно, решение получается немного громоздким, но ничего страшного не вижу. Корни вполне выписываемые.