На этом вылезшем участке была бы очень высокая напряженность
хмм, дык если вылезла силовая линия, она же того же значения А/м, что и в катушке источнике откуда она изменится, хотя наверное, тут нужно действительно учесть граничные условия на поверхности, и будет скачек значения силовой линии, почти понял. Тогда другой вопрос, пусть соленоид тороидальный и сердечник у него железный и имеет зазор. Последовательность мыслей: тороидальный сердечник создает напряженность магнитного поля, коротая взаимодействует с границей железного сердечника, и создает там равную магнитную индукцию, магнитная индукция добирается до зазора, взаимодействует, и создает напряженность в воздухе равную напряженности создаваемой тороидальным сердечником, при этом магнитная индукция в воздухе равна индукции железа, по граничным условиям, и дальше она погнала... я понял в чем ошибка, я думал силовые линии магнитного поля неразрывны, а граничные условия как раз устраивают такой разрыв первого рода.. все понял, большое спасибо!