Вопрос распадается на два подвопроса.
1. Существует ли явная формула для коэффициентов?
Да. И недалеко
http://en.wikipedia.org/wiki/Chebyshev_polynomialsПараграф Explicit expressions, вторая формула параграфа, 4-я строчка.
2. Как рассчитывают коэффициенты?
Не пользуясь такого рода явной формулой. Намного проще использовать рекуррентное соотношение

Как для последовательного выписывания коэффициентов, так и (что чаще) для непосредственного вычисления.