Есть теоретическая формула для индуктивности. Во-первых индуктивность определяется как коэффициент, связывющий энергию магнитного поля постоянного тока с половиной квадрата силы тока:
(Ваш подход с магнитным потоком может быть применим только когда магнитное поле локализовано внутри соленоида)
Отсюда, с учётом выражения для энергии магнитного поля:
где
- плотность тока,
- область где расположены проводники с током,
- радиус-вектор.
Подробнее см. Никольский В.В., Никольская Т.И. Электродинамика и распространение радиоволн. Использовать эту формулу будет занятием малоприятным.
На практике при рачёте индуктивности в вашем случае в формулу для индуктивности катушки вводят поправочные коэффициенты, которые определяются эмпирически и приводятся в справочниках по расчёту радиоэлектронной аппаратуры.
Подробнее см. Фрумкин Г.Д. Расчёт и конструирование радиоэлектронной аппаратуры.