А на самом деле меня интересует узнать как решить задачу Штурма -Лиувилля
с краевыми условиями на бесконечности
Там на самом деле нет таких граничных условий. Там на самом деле условия совсем другие: конечен интеграл по всей оси от хоть одного решения -- али нет?...
Но и даже такая постановка вопроса -- не окончательно разумна.
Тут есть два уровня строгости -- математический и физический.
На физическом уровне поступают тупо. Если есть решение, которое хорошо эдак убывает на обеих бесконечностях - то это всё, это точка дискретного спектра (и это, кстати, даже и математически правильно после соотв. заклинаний). Если таковых нет, но существуют решения пусть и не убывающие, но хотя бы не растущие на бесконечностях -- значит, это точка непрерывного спектра. И в подавляющем большинстве случаев эта стратегия срабатывает.
Математики же поступают иначе. Они сперва тупо формулируют формальное определение того, что есть спектр, и что есть спектр точечный и непрерывный, а потом не менее тупо доказывают теорему: если потенциал возрастает на бесконечности, то спектр -- чисто дискретен. После чего выловить эти исключительные точки спектра -- уже лишь формальность.