но какие граничные условия поставить???

, причём слагаемые

и

сами по себе самосопряжены и коммутируют. Поэтому спектр всего гамильтониана получается суммированием спектров этих двух операторов (в том смысле, что каждая точка спектра

является суммой какой-либо точки спектра

и какой-либо точки спектра

). Со спектром

всё ясно -- он чисто непрерывен и заполныет собой правую полуось. А спектр

, наоборот, чисто дискретен -- просто потому, что в этом операторе присутствует слагаемое

потенциального типа, уходящее на бесконечности в бесконечность; точи этого спектра -- это и есть уровни Ландау. И поскольку мы знаем, что для этой части оператора числа являются собственными в точном смысле, т.е. что соответствующие решения представляют собой связанные состояния -- естественным образом требование на собственные числа сводится к стремлению решения к нулю на бесконечности по радиальной переменной.
В результате возникает достаточно своеобразная картина спектра. Он начинается с нижнего уровня Ландау и чисто непрерывен, но при этом бесконечнократно вырожден. И после каждого следующего уровня Ландау кратность вырождения в некотором смысле дополнительно увеличивается на единицу.
-- Пт апр 06, 2012 14:13:46 --Интересно, куда рассеиваются частицы в однородном магнитном поле?
Никуда. Они целеустремлённо летят вперёд (и/или назад) по направлению поля, оставаясь при этом локализованными в некоторой трубке -- настолько, насколько можно вообще говорить о локализации волновых функций.