Ага, только вот так красивее:

Кроме того, можно заметить, что это
![$$[y^n] \frac{(-1-y)^n}{(1+xy)^{n+2}}$$ $$[y^n] \frac{(-1-y)^n}{(1+xy)^{n+2}}$$](https://dxdy-04.korotkov.co.uk/f/7/8/e/78e6696f9c22efa891607e5352e37b7a82.png)
и применить формулу обращения Лагранжа для получения производящей функции:
Добавлено спустя 2 часа 5 минут 8 секунд:Gafield, кстати, а как вы получили свою формулу?
Я бы действовал так.
Пусть

, где

-
полиномы Лежандра ("сдвинутые" и обычные).
Тогда

и в силу ортогональности сдвинутых полиномов Лежандра на
![$[0,1]$ $[0,1]$](https://dxdy-03.korotkov.co.uk/f/a/c/f/acf5ce819219b95070be2dbeb8a671e982.png)
:

Нам нужно минимизировать последнюю сумму при условии, что

Применяя метод множителей Лагранжа, получаем

и

С другой стороны, так как

то
![$$(n+1)^2 g_n(x) = [y^n] (1+y) ((1+y)^2-4xy)^{-\frac 32}.$$ $$(n+1)^2 g_n(x) = [y^n] (1+y) ((1+y)^2-4xy)^{-\frac 32}.$$](https://dxdy-03.korotkov.co.uk/f/2/d/6/2d6d15c15b92ae3d667ddc872cb922b082.png)
Интегрируя по

и деля на

получаем ту же производящую функцию, что и раньше:
