Katay писал(а):
В ходе решения задачи пришла к такому уравнению:

Я не знаю как подойти к решению. С чего начать? Может, посоветуете какую-нибудь книжку почитать.

При известных ограничениях Это эквивалентно такой задаче Коши

это было бы обыкновенным диф. уравнением на каком-нибудь банаховом пространсве функций

если бы не одна деталь. Начальное условие у Вас не принадлежит

, а решение ,судя, по правой части должно принадлежать. Может интеграл по

должен браться v.p. может еще что-то, надо подыскивать подходящее пространство. Не факт, что эта задача вообще корректна в каком-нибудь разумном смысле.