в прямоугольном потенциальном ящике
С бесконечными стенками? 
В первой дроби в числителе именно 1 не h.
Может это такая система единиц, где 

. И, если уж на то пошло, там должно быть не просто 

, а 

.
Далее, в первом учебнике говорится что решение этого диффура 

 и 

   
      | 
        
         i  | 
      Для набора тригонометрических функций используйте  Код: \cos kx, \sin kx  | 
   
 Решение ДУ не зависит от того, что написано в учебнике. Это уравнение второго порядка с постоянными коэффициентами, Вы его сами можете решить. 
в конце получается что первая волновая функция косинус, вторая синус и т.д. А в другом учебнике косинусы пропадают и все волновые функции - синусы. 
Примените соответствующие граничные условия и определите константы.