Ой! А можно Вам такие обозначения предложить:

- О-функция (операционная).

... ( ну или хотя бы

)
Видимо вообще

- всего a раз,
ну или с возможностью неассоциативности

- всего b раз.
(ну вот видите, уже 2 варианта получаются, к тому же пока придется ограничиться

)
И теперь Вы хотите обобщить эту функцию для

?
Надо тогда еще какое-то свойство ввести. Какое?... Ну это функци уравнение получится.
Вашу первую формулу в моих обозначениях я понял так:

.
Ну это - "линейная комбинация" операций

и

. Не знаю точно, но это скорее всего неверно. Должна быть очень кривая формула.
Со второй формулой примерно то же самое.
С третьей мне было очень тяжело.
Надо свойство.
Следующая операция у нас есть композиция предыдущих (число композиций равно 2-й переменной).
Вряд ли. Из моего определения не получишь. Надо какое-то свойство находить и обобщать уже от него.
Не знаю.
А может действительно через логарифм вводить. Типа

.
Нет, это уже что-то совсем другое.
Или я что-то неправильно понял?