Попробуйте почитать по теме "интегральные уравнения Фредгольма первого рода", "уравнения типа свертки".
Хорхе имел в виду следующее. Имеем уравнение

. Применяем к нему преобразование Фурье, по теореме о свертке

, где большие буквы обозначают преобразования Фурье соответствующих функций. Выражаем отсюда

и производим обратное преобразование. Только надо на функции наложить условия, достаточные для существования преобразований Фурье.