В качестве волновой функции я беру

.
Волновую функцию надо не "брать" откуда попало, а находить как решение уравнения Шрёдингера с указанными в задаче граничными условиями. (Кстати, с обозначениями, пожалуйста, будьте внимательнее: в задаче у Вас указана ширина ямы

но в ответе Вы пишете какую-то

Ямы разные бывают: с разным "рельефом" потенциала

- с разной высотой и формой стенок, с разной формой дна. Вы какую яму подразумеваете?
Если яма с плоским дном шириной

то в ней на плоском участке (т.е. при

c

уравнение Шрёдингера имеет два линейно независимых частных решения, описывающих свободное движение частицы; например:

и

Общее решение имеет вид их линейной суперпозиции с произвольными (до наложения граничных условий) коэффициентами; обозначим коэффициенты, например, как

и
Тогда волновая функция в том виде, в каком Вы её "брали", т.е.

внутри ямы, соответствует выбору

который является следствием граничного условия

При этом выбор

где

следует из граничного условия

с требованием, чтобы

и

не оказались бы равны нулю сразу оба (чтобы волновая функция не оказалась бы равной нулю при всех

в яме).
Это явно не те граничные условия, которые заданы Вам в задаче. Поэтому Вам подсказывают: начните с общего решения

в виде суперпозиии частных решений с произвольными коэффициентами

и

и подчините его указанным в задаче граничным условиям. Что из этого получится (или не получится), дальше будет видно.