подскажите пожалуйста какие нужно взять пределы для нахождения потенциала
Никакие, и вообще непонятно, о каких пределах речь. Потенциал снаружи известен (это потенциал соотв. точечного заряда); соответственно, известно и значение этого потенциала на внешней поверхности. Остаётся лишь добавить к этому значению честный интеграл от напряжённости вдоль радиуса внутрь слоя (а зависимость напряжённости от радиуса мгновенно получается из теоремы Остроградского-Гаусса).
-- Ср ноя 02, 2011 10:40:39 --Нет, я передумал, надо проще. Заполним для начала полость зарядом с той же плотностью. Тогда потенциал при
равен
, где
определяется понятным образом через
,
и
. Внутри шара он будет выглядеть, очевидно, как
(поскольку, как известно, внутри однородного шара напряжённость прямо пропорциональна расстоянию до центра). Постоянные
и
выражаются через
из условий гладкости на внешней поверхности:
и
. И остаётся только вычесть из
и
потенциальчик
, создаваемый добавленным лишним зарядом, в котором постоянная
определяется соотношением
.