Я бы рассуждал по рабоче-крестьянски как-то так:
Попробуем разложить на два множителя. Поскольку у игреков максимальная степень двойка, а также поскольку есть игреки без иксов, значит игреки входят в оба множителя в степени не выше первой.
Свободных коэффициентов во множителях нет, иначе в произведении были бы квадраты иксов без игреков (если свободный коэффициент только в одном множителе) либо был бы свободный член в произведении (если свободные члены есть в обоих множителях).
Поскольку третья степень икса без игрека а свободных членов в множителях нет, значит в множители входят квадраты иксов (в множителях нет куба икса).
Так что будем искать разложение в виде

и значит, надо найти неизвестные коэффициенты

Видим, что

поскольку в исходном многочлене нет члена

Произвольно полагаем

и из коэффициента при

равному

сразу получаем

и следовательно

. Осталось найти 4 коэффициента.
Из того, что коэффициент при

равен

, заключаем что

а так как

и

то

и осталось найти 3 коэффициента.
Из коэффициента при

равного

находим что

а поскольку

, то

и осталось найти два коэффициента --

и

.
Из коэффициента при

равного

находим что

, подставляем ранее найденные коэффициента и получаем

находим

И, наконец, поскольку коэффициент при

равен

, то

и следовательно

Итого, подставляем

;

;

;

;

;

в

и получаем ответ:

Вероятно это называют "метод неопределенных коэффициентов", не уверен.