Здравия Вам желаю.
Хотя может быть и существует простой и красивый путь.
Тогда буду дальше над ней думать. Лучший способ саморазвития-- решать задачи, а если в результате решения найти что-то новое, то это двойная польза.
Что-то не так с этой формулой, мне кажется (я пытаюсь проверить её на правдоподобие при небольших

). Может, в последнем выражении просто

, без квадрата? Где Вы нашли или как получили её?
Ошибок и опечаток при наборе этой формулы нет.
Исходил из того, что функция должна быть симметричной по перестановке

, количество комбинаций максимально примерно при

, центральной теоремы, индукции и немного интуиции. Для малых чисел формула даст большие погрешности.
Думаю, с точностью до коэффициента, функция будет точнее такая
![$N\sim[x(mn-x)]^s$ $N\sim[x(mn-x)]^s$](https://dxdy-01.korotkov.co.uk/f/4/9/5/495f845d2effe5acf346dc7227465edc82.png)
где

функция от

и

.