Вообще, решение второго пункта через формулу Стирлинга было разумным или есть боле хорошие методы?
Если

, то просто

, Стирлинг там нужен, только если

может зависеть от

.
Мое решение:
1)

...

, ...

, ...
Вы в разборе случае в конце делаете одинаковую операцию. Число буков можно существенно уменьшить, если случай

разобрать до конца, а потом его юзать для

.
И коэффициенты перепроверьте, мне кажется, что там вычислительные ошибки.