10 выглядит как удачное заполнение где-то там в конце бесконечной цепочки вложенных радикалов, но это лишь из-за того, что сама «бесконечная формула» включает только радикалы и 10. Мне кажется, можно подобрать такую запись, где было бы труднее что-то выбрать из нескольких неподвижных точек ассоциирующейся с записью функции, которую предлагается итерировать (если ассоциируется только одна функция).
Это, господа физики, все отговорки, чтобы математическую задачу по-честному не решать. Извините, но в математическом образовании есть традиции.
Из меня физик, увы, такой же как и ну скажем художник, то есть вроде что-то простенькое может и нарисую, но с профессионалами сравнения невозможны. Так что я с самой математической, ну ладно, метаматематической стороны спрашиваю: почему эта запись должна пониматься так, как предлагается. И это согласуется с тем, что вы сказали, что условие мягко говоря не очень ясное. Так что почему бы не посчитать, что эта запись вообще не имеет никакого смысла и не приписывать ей ни значения 10, ни 0; вполне вариант.
А то, что формула (если мы разрешим бесконечные формулы, представляя их деревьями, где поддеревья каждого узла упорядочены), может быть «бесконечной по-разному», это довольно очевидно: порядок на
и обратный порядок разные, и если взять одноместный символ
, достраивающий [бесконечную] формулу в [бесконечную] формулу, эти два порядка отразятся в формулах, записываемых как
и
, где допустим, что ещё есть какая-то константа
. Пусть
— тождественность формул, тогда если обозначить первую формулу
и вторую
, имеем
, но не
, потому что вторую формулу вообще никуда нельзя подставить — нет вершины-головы, за которую «можно было бы зацепиться»; соответственно, у неё кстати не может быть и значения. Две разные вещи в общем.