что за

Вообще -- некоторая функция, конкретно -- полиномиальный коэффициент, но это не важно. Следуёте совету
Alexey1, т. е. разложите

по биному Ньютона и приведите к требуемой форме.
что подразумевается под суммированием только по

?
По всем таким (целым, неотрицательным)

, которые в сумме дают

. Тот же бином Ньютона можно записать как

.