Возникает вопрос, если используется другая ортогональная система функций, есть ли аналогичные, более общие теоремы?
Если да, где об этом фундаментально написано?
Аналогичные теоремы есть для полиномов Чебышёва и Лежандра. См. книгу John P. Boyd "Chebyshev and Fourier Spectral Methods".
Краевые задачи (или на многообразиях) для эллиптических самосопряженых операторов дают разнообразные системы ортогональных функций при решении спектральных проблем. В учебниках и задачниках выводятся аналитически соответствующие формулы для коэффициентов Фурье из которых видна скорость их убывания.