По какому принципу располагаются подоболочки в ядерной модели оболочек?
Там нет какого-то универсального принципа. Дело в том, что для электронов движение происходит в кулоновском поле ядра, и влияние взаимодействия электронов друг с другом мало. Тогда можно считать его малой поправкой, и рассматривать порядок уровней в кулоновском поле с небольшими поправками. А для нуклонов движение происходит только в поле таких же нуклонов, и для точного описания требует полноценного решения квантовой задачи многих тел. Не говоря уже о том, что ядерные силы между двумя нуклонами не центральные, как между положительным и отрицательным зарядом, а в большой степени тензорные, как между двумя магнитиками, зависят от взаимной пространственной ориентации.
Так что точно эта задача не решается, а в качестве порядка уровней берут то, что получается экспериментально из свойств ядер - так называемых "магических чисел", которые соответствуют заполнению целых уровней. "Это нельзя понять, это можно только запомнить".
Может быть, с уровнями гармонического осциллятора и есть аналогия, но не слишком большая. Эффективный потенциал для одного нуклона напоминает то ли осциллятор, то ли прямоугольную потенциальную яму (в сферических координатах), но области, в которых это приближение неидеально, достаточно велики. К тому же, с добавлением нуклонов форма этого потенциала меняется. Щас никак не могу вспомнить книжку, где видел показанные для сравнения потенциалы для нескольких лёгких ядер, они там непредсказуемо то уже, то шире, то глубже, то мельче становятся.