Можно потенциал, в котором лежит вторая частица, вообще заменить на гармонический осциллятор какой-нибудь, но от этого уравнение слабо поменяется.
Вот и замените. IMHO, сразу полегчает. Ваш потенциал взаимодействия

при преобразовании Фурье перейдет в

и останется найти функцию Грина (ядро оператора

), а она, вроде, считается. Тогда интегральное уравнение Липпмана — Швингера

в Фурье-представлении окажется алгебраическим, и Вы получите точное решение в Фурье-представлении. А как считать функцию Грина для бесконечной прямоугольной ямы я лично не знаю.