Пытался сам решать и ничего не получается.
И ничего не получится, пока Вы будете задавать вопросы типа
Какая формулв ряда Фурье в данном случае?
Нет никаких "формул ряда Фурье", в принципе нет. Есть лишь
метод, условно называемый "методом Фурье". Условно, поскольку там есть разные варианты формулировок. И покуда Вы не предъявите хоть каких-то попыток воспользоваться хоть каким-то вариантом этого метода -- никто Вам никак и не поможет. И вовсе не из жлобства, нет. А просто из-за бессмысленности обсуждать бессмысслимое.