Спасибо! Теперь я, кажется, почти все понял, хотелось бы только кое-что уточнить.
Для этого хотел бы сначала повторить, что функцию

можно рассматривать безотносительно к ее области определения и области значений (это понадобится ниже), например, если

, то, независимо от области определения

(от

), любой объект, который подставляется вместо

, возводится в квадрат (при этом, разумеется, для объекта, который подставляется вместо

должно быть определено, как именно он возводится в квадрат). Это касается как элементов, так и множеств. При возведении в квадрат множества каждый элемент множества возводится в квадрат.
При

возводить множество в квадрат приходится, когда какой-то элемент из

представляет собой множество, например, когда

(

,

,

) и

(здесь

пересекается со своим элементом

), то есть

и надо возвести в квадрат

.
(Когда выбрана область определения

, область значений

определяется сама собой.)
Когда функция возводит аргумент не в квадрат, а, скажем, в куб, то, естественно, ее следует обозначить другой буквой, например,

.
Но оказывается, что функция, подобная

, нужна очень часто, при этом мы часто имеем

. Поэтому тут есть уже менее строгое обозначение: а именно, давайте разрешим писать

не только для

, но и для

.
С этим не возникает проблем, пока

пусто - строго говоря, мы просто вводим новую функцию

, определенную по правилу

И договариваемся, что дальше у нас

будет обозначать

(хотя вообще говоря, конечно, переиспользовать уже введенные символы нехорошо).
Проблема начинается, если

непусто, например если

- в этом случае

не является корректно определенной. Поэтому для таких случаев писать

подразумевая

не стоит.
Я думаю, что проблема здесь начинается, только если, безотносительно к области определения,

, то есть, например, если

, а

. Тогда нельзя не определиться: возводить в квадрат или в куб (разумеется, если элемент-прообраз не равен нулю или единице), и если не определились, возникает проблема.
Если же

, и разные буквы взяты только потому, что

берется для области определения, равной

, а

для области определения, равной

, то, даже если

непусто, проблемы не будет, потому что либо каждый элемент

будет возводиться в квадрат, либо каждый элемент

будет возводиться в куб.
Отмечу, что

непусто только в том случае, когда

пересекается с каким-то своим элементом, если не пересекается, то

пусто, и нет проблемы с тем, чтобы

обозначить как

.