Мне кажется странным набор начальных и граничных условий. Вы можете привести пример функции, которая им всем удовлетворяет? (не обязательно, чтобы она удовлетворяла уравнению)
Так вот сходу не могу. Но мне они кажутся вполне физическими. Первое — условие закрепления на конце. Второе — задание импульса на этом конце. Ну третье не совсем граничное условие, просто берем ограниченные решения, т.к. решения, в которых функция неограниченно возрастает с ростом

или

нас не интересуют. Нулевые НУ вроде не мешают.
UPD: понял. Рассматривал решения вида

и понял, что как раз нулевым НУ будет удовлетворить непросто. Но ведь ответ не обязательно должен быть в элементарных функциях. Я вот нашел в таблицах курса ТФКП Лавреньтева функцию, похожую на мою.

.
Вот только в моем случае вместо

у меня

и я не знаю, подходит ли мне такое решение. И что за функция

? Нашел в интернете, что это функция Дедекинда, но у нее

это комплексное число. Значит ли это, что это не мое решение?