Вот отсюда у меня получился 0.
Честно -- не вникал, бессмысленно. Поскольку Вы гордо игнорируете в формуле интегрирования по частям указание пределов, по которым берётся приращение во внеинтегральных членах -- получиться может что угодно. Это бессмысленно.
Так как константы ортогональны синусам и косинусам
Я бы сказал то же самое, но грубее. Очевидное тождество

внешне выглядит как некий ряд Фурье -- ну а раз так, то оно ровно рядом Фурье для тройки и является.