Есть теоретическая формула для индуктивности. Во-первых индуктивность определяется как коэффициент, связывющий энергию магнитного поля постоянного тока с половиной квадрата силы тока:

(Ваш подход с магнитным потоком может быть применим только когда магнитное поле локализовано внутри соленоида)
Отсюда, с учётом выражения для энергии магнитного поля:

где

- плотность тока,

- область где расположены проводники с током,

- радиус-вектор.
Подробнее см. Никольский В.В., Никольская Т.И. Электродинамика и распространение радиоволн. Использовать эту формулу будет занятием малоприятным.
На практике при рачёте индуктивности в вашем случае в формулу для индуктивности катушки вводят поправочные коэффициенты, которые определяются эмпирически и приводятся в справочниках по расчёту радиоэлектронной аппаратуры.
Подробнее см. Фрумкин Г.Д. Расчёт и конструирование радиоэлектронной аппаратуры.