подскажите пожалуйста какие нужно взять пределы для нахождения потенциала
Никакие, и вообще непонятно, о каких пределах речь. Потенциал снаружи известен (это потенциал соотв. точечного заряда); соответственно, известно и значение этого потенциала на внешней поверхности. Остаётся лишь добавить к этому значению честный интеграл от напряжённости вдоль радиуса внутрь слоя (а зависимость напряжённости от радиуса мгновенно получается из теоремы Остроградского-Гаусса).
-- Ср ноя 02, 2011 10:40:39 --Нет, я передумал, надо проще. Заполним для начала полость зарядом с той же плотностью. Тогда потенциал при

равен

, где

определяется понятным образом через

,

и

. Внутри шара он будет выглядеть, очевидно, как

(поскольку, как известно, внутри однородного шара напряжённость прямо пропорциональна расстоянию до центра). Постоянные

и

выражаются через

из условий гладкости на внешней поверхности:

и

. И остаётся только вычесть из

и

потенциальчик

, создаваемый добавленным лишним зарядом, в котором постоянная

определяется соотношением

.