Ага, только вот так красивее:

Кроме того, можно заметить, что это
![$$[y^n] \frac{(-1-y)^n}{(1+xy)^{n+2}}$$ $$[y^n] \frac{(-1-y)^n}{(1+xy)^{n+2}}$$](https://dxdy.ru/math/78e6696f9c22efa891607e5352e37b7a82.png)
и применить формулу обращения Лагранжа для получения производящей функции:
Добавлено спустя 2 часа 5 минут 8 секунд:Gafield, кстати, а как вы получили свою формулу?
Я бы действовал так.
Пусть

, где

-
полиномы Лежандра ("сдвинутые" и обычные).
Тогда

и в силу ортогональности сдвинутых полиномов Лежандра на
![$[0,1]$ $[0,1]$](https://dxdy.ru/math/acf5ce819219b95070be2dbeb8a671e982.png)
:

Нам нужно минимизировать последнюю сумму при условии, что

Применяя метод множителей Лагранжа, получаем

и

С другой стороны, так как

то
![$$(n+1)^2 g_n(x) = [y^n] (1+y) ((1+y)^2-4xy)^{-\frac 32}.$$ $$(n+1)^2 g_n(x) = [y^n] (1+y) ((1+y)^2-4xy)^{-\frac 32}.$$](https://dxdy.ru/math/2d6d15c15b92ae3d667ddc872cb922b082.png)
Интегрируя по

и деля на

получаем ту же производящую функцию, что и раньше:
