некоммутативный анализ Фурье

[beroal]

Для простоты рассмотрим анализ Фурье только для конечных групп $G$. Если $G$ коммутативна, то преобразование Фурье — это просто разложение в ортонормальный базис. Даже структура группы на $G$ не нужна.

Если $G$ некоммутативна, появляется структура группы на $G$, представления групп, неприводимые представления групп. Как всё это связано с преобразованием Фурье? Откуда всё это? Как подойти к этой теме, чтобы это понять? Пока что я вижу кучу формального материала, который не понятно к чему ведёт и, кстати, в разных учебниках написан по-разному.

[vpb]

beroal в сообщении #1470135 писал(а):

Если $G$ коммутативна, то преобразование Фурье — это просто разложение в ортонормальный базис. Даже структура группы на $G$ не нужна.

Отнюдь. ПФ --- это разложение не во всякий ортонормальный базис, а в некоторый канонически определяемый структурой коммутативной группы.

beroal в сообщении #1470135 писал(а):

кстати, в разных учебниках

А в каких ?

[george66]

Сейчас попробую объяснить, насколько сам понимаю. Возьмём окружность со сложением точек (группа действительных чисел по модулю $2\pi$). Она коммутативна и компактна, это хорошо. Рассмотрим функции на этой группе, для удобства сразу комплексные (то есть, периодические комплекснозначные функции с периодом $2\pi$). Они образуют линейное пространство (бесконечномерное), их можно складывать и умножать на числа. Возьмём оператор сдвига, переводящий функцию $f(x)$ в функцию $f(x-a)$, где $a$ некоторое число. Это линейный оператор, действующий на функции, он переводит сумму в сумму и линейную комбинацию в линейную комбинацию. Его собственные векторы - это функции, которые при сдвиге умножаются на константу, то есть экспоненты $e^{kx}$, где число $k$ комплексное. Поскольку функция должна быть периодической, подходят не любые $k$ и экспоненты оказываются гармониками, по которым раскладываются ряды Фурье. Идея в том, что собственные функции оператора сдвига образуют базис в пространстве функций, каждая "хоть чуть-чуть хорошая" функция по ним раскладывается в ряд. Дальше замечаем, что у оператора дифференцирования $d/dx$ те же самые собственные векторы (экспоненты). Если мы изучаем линейное дифференциальное или интегральное уравнение, удобно искать решение в виде ряда Фурье, это часто позволяет исследовать свойства решения качественно, найдя "главные" гармоники и творчески пренебрегя остальными. Теперь обобщения. Если рассматривать функции, определённые на прямой, а не окружности (то есть, не периодические), дискретного базиса нет, поскольку прямая не компактна и вместо ряда Фурье получается интеграл Фурье. Если рассматривать функции, определённые на некоммутативной группе (например, группе вращений сферы), теория резко усложняется и там какие-то сферические гармоники, которые я рассказать не берусь.

[beroal]

george66 в сообщении #1470367 писал(а):

Возьмём оператор сдвига, переводящий функцию $f(x)$ в функцию $f(x-a)$, где $a$ некоторое число. Это линейный оператор, действующий на функции, он переводит сумму в сумму и линейную комбинацию в линейную комбинацию. Его собственные векторы - это функции, которые при сдвиге умножаются на константу, то есть экспоненты $e^{kx}$, где число $k$ комплексное.

По-моему, любая $a$-периодическая функция будет собственным вектором, даже такая, которая повторяется с домножением на фиксированный скаляр.

-- Ср июн 24, 2020 15:11:42 --

Может, вы имели в виду собственные векторы всех операторов сдвига, то есть собственные векторы стандартного представления группы $\mathbb{T}$, действующее в линейном пространстве $\mathbb{T}\to \mathbb{C}$?

[george66]

И правда! Вообще, я не специалист. Но вот в чём связь представлений групп и рядов Фурье: действие группы на множестве функций (сдвигами) - это "самое большое" линейное представление группы, из которого выделяются все конечномерные. Если группа коммутативная, представление раскладывается в прямую сумму одномерных (каждая гармоника даёт одномерное представление - представьте, как она меняется при сдвиге - умножается на число). Если группа некоммутативная, разложить на одномерные представления нельзя и теория усложняется.

[beroal]

Кто-нибудь может помочь прояснить терминологию? В статье А. А. Кириллова «Введение в теорию представлений и некоммутативный гармонический анализ»:

Цитата:

Каждому комплексному представлению $T$ группы $G$ соответ­ствует представление алгебры $\mathbb{C}[G]$, обозначаемое той же бук­вой и задаваемое равенством

$$T(t) = \sum_{g\in G} f(g) T(g).$$

Таким образом, пространство $V$ представления $T$ является $\mathbb{C}[G]$-модулем.
…
(Линейное пред­ставление $T$ алгебры $A$ с инволюцией в гильбертовом про­странстве называется $*$-представлением, если $T(a^*) = T(a)^*$ для всех $a\in A$.)

Дело в том, что представление группы определено, а представление алгебры нет. Судя по Representation of an associative algebra - Encyclopedia of Mathematics, представление $K$-алгебры $A$ в $K$-линейном пространстве $V$ есть гомоморфизм алгебр из $A$ в $\operatorname{End} V$. В Википедии написано, что это «модуль для алгебры $A$». Я не знаю, что такое модуль для алгебры.

Во-вторых, как понимать $T(a)^*$? Я полагаю, $(T(a))^*$. Так как $T(a)\in \operatorname{End} V$, какую одноместную операцию $*$ к нему применять?

[Slav-27]

beroal в сообщении #1470611 писал(а):

представление $K$-алгебры $A$ в $K$-линейном пространстве $V$ есть гомоморфизм алгебр из $A$ в $\operatorname{End} V$.

Да. Проще говоря, каждому элементу алгебры сопоставляется линейный оператор на $V$, причём при этом сопоставлении сумме элементов соответствует сумма операторов, произведению элементов -- композиция операторов, произведению элемента на число -- произведение оператора на это же число.

beroal в сообщении #1470611 писал(а):

В Википедии написано, что это «модуль для алгебры $A$»

Неправильно: должно быть "модуль над алгеброй" (over).

beroal в сообщении #1470611 писал(а):

Во-вторых, как понимать $T(a)^*$? Я полагаю, $(T(a))^*$.

Да.

beroal в сообщении #1470611 писал(а):

Так как $T(a)\in \operatorname{End} V$, какую одноместную операцию $*$ к нему применять?

Эрмитово сопряжение (смотрите раздел "Гильбертово пространство").

-- 25.06.2020, 19:56 --

Видели ли вы теорему Петера -- Вейля? Поняли ли вы её?

[Slav-27]

beroal в сообщении #1470135 писал(а):

Для простоты рассмотрим анализ Фурье только для конечных групп $G$.

Теорема Петера -- Вейля утверждает, для компактной группы Ли $G$, существование гильбертова базиса $L^2(G)$ с определёнными свойствами; в частности, $L^2(G)$ как представление $G$ изоморфно гильбертовой прямой сумме всех неприводимых представлений $G$, где каждое представление встречается столько раз, какова его размерность (эти размерности всегда конечны). В частности, у $G=U(1)$ все неприводимые представления одномерны и задаются формулами $z\mapsto z^n$, $z\in U(1)\subset\mathbb C, n$ целое. Поэтому получается изоморфизм $L^2(U(1))$ и $L^2(\mathbb Z)$; при этом изоморфизме вектор справа, соответствующий $n\in \mathbb Z$, переходит в функцию $z^n$, $z=e^{i\varphi}\in U(1)$ -- это более-менее теорема о раложении периодической функции в ряд Фурье.

В случае конечных групп гильбертово пространство конечномено, т. е. евклидово. Выбирать базисы в евклидовом пространстве -- это не самое глупое заннятие, но всё-таки это ещё не анализ Фурье. Если теория представлений групп Ли вызывает у вас затруднения, то, может быть, сначала стоит освоиться с теорией представлений конечных групп.

Например, попробуйте понять, как устроено вышеописанное разложение в прямую сумму для $L^2(S_3)$, где $S_3$ -- группа перестановок 3 элементов (неабелева группа порядка 6). Если не получается $S_3$, то пробуйте сначала $\mathbb Z_2, \mathbb Z_3, \mathbb Z_2\times \mathbb Z_2$. Используйте интернет (ключевые слова: леммы Шура, теорема Машке, характеры, их ортогональность).

[vpb]

beroal в сообщении #1470611 писал(а):

Я не знаю, что такое модуль для алгебры.

Читайте учебник Кострикина, плюс Кэртис, Райнер, Теория представлений конечных групп и ассоциативных алгебр, первые две главы (но в конце второй материал более сложный и вам скорее всего не нужный). Правда, там что такое "алгебра с инволюцией" не объясняется. Но это понятие крайне несложное.

Хоть среди учеников Кириллова два филдсовских лауреата, но книжки его в качестве учебников весьма стрёмны. Ну и по Википедии не учатся по определению, хоть что-то из нее почерпнуть можно (например, сведения, какую книжку можно почитать).

[beroal]

Slav-27 в сообщении #1470645 писал(а):

beroal в сообщении #1470611

писал(а):
Так как $T(a)\in \operatorname{End} V$, какую одноместную операцию $*$ к нему применять? Эрмитово сопряжение
(смотрите раздел "Гильбертово пространство").

Спасибо огромное. Намного лучше, когда кто-то скажет точно, чем самому угадывать.

Slav-27 в сообщении #1470645 писал(а):

beroal в сообщении #1470611

писал(а):
В Википедии написано, что это «модуль для алгебры $A$» Неправильно: должно быть "модуль над алгеброй" (over).

У меня возникла такая мысль, но в статье по модулям нет ничего про модуль над алгеброй $A$. Насколько я понимаю, это более сильное понятие, чем модуль над кольцом ($A$ можно урезать до кольца). Было бы неплохо, если бы кто-то поправил. Википедия заблокировала мне вход в мой аккаунт.

Slav-27 в сообщении #1470651 писал(а):

Если теория представлений групп Ли вызывает у вас затруднения, то, может быть, сначала стоит освоиться с теорией представлений конечных групп.

Этим я и занимаюсь.

Slav-27 в сообщении #1470645 писал(а):

Видели ли вы теорему Петера -- Вейля? Поняли ли вы её?

Для конечной группы $G$ эта теорема говорит о разложении $f\in \mathbb{C}[G]$ в ортогональный базис $\{g\mapsto T^{(k)}_{i, j}(g)\}_{k, i, j}$, где $T^{(k)}_{i, j}(g)$ есть $(i, j)$-тый элемент матрицы $T^{(k)}(g)$, где $T^{(k)}$ есть неприводимое унитарное представление из $k$-го класса изоморфизма представлений $G$.

Насколько я понял, $f\in \mathbb{C}[G]$ можно понимать как сигнал, неприводимое представление $T$ можно понимать как гармонику и $T(f)$ можно понимать как амплитуду (включая фазу) $T$ в $f$. Меня смущает, что когда мы переходим к доказательствам, то надо ввести на поддержке $T$ эрмитову форму, относительно который $T$ унитарно, ортонормальный базис, разбить матрицы $T$ на элементы… Много возни, координаты…

vpb в сообщении #1470671 писал(а):

Кэртис, Райнер, Теория представлений конечных групп и ассоциативных алгебр

Уже скачал. Спасибо, что сказали, что он есть на русском. Правда, он очень древний.

vpb в сообщении #1470671 писал(а):

Ну и по Википедии не учатся по определению, хоть что-то из нее почерпнуть можно (например, сведения, какую книжку можно почитать).

А я и не учусь, я беру там унифицированные определения терминов. В учебниках разноголосица…

vpb в сообщении #1470671 писал(а):

Хоть среди учеников Кириллова два филдсовских лауреата, но книжки его в качестве учебников весьма стрёмны.

Не спорю. Он свободно использует категории.

vpb в сообщении #1470671 писал(а):

Читайте учебник Кострикина

Откровенно говоря, мне трудно уследить за его рассуждениями.

[vpb]

beroal в сообщении #1470684 писал(а):

Правда, он очень древний

Кажется, у древних греков была пословица "Седые волосы --- признак не мудрости, а старости". И применительно к книгам тоже нет большой корреляции между педагогической ценностью и годом издания (еще менее, чем между возрастом и мудростью). Я в этом убеждался 100500 раз.

beroal в сообщении #1470684 писал(а):

Не спорю. Он свободно использует категории.

В этом ничего плохого нет, даже наоборот. Книжки Кириллова стрёмны не поэтому, а потому, что слишком много пропусков и мало объяснений. А категории он использует на чрезвычайно элементарном уровне.

beroal в сообщении #1470684 писал(а):

Откровенно говоря, мне трудно уследить за его рассуждениями.

Кострикин --- самый подробный и понятный из известных мне учебников. Хотя не без грехов. Если он Вам "не идет" ... как бы это помягче сказать ... дело не в Кострикине.

[Slav-27]

beroal в сообщении #1470135 писал(а):

Как всё это связано с преобразованием Фурье? Откуда всё это? Как подойти к этой теме, чтобы это понять? Пока что я вижу кучу формального материала, который не понятно к чему ведёт и, кстати, в разных учебниках написан по-разному.

Я попробовал написать, как я это понимаю, может, кому-то будет полезно.

1. Про что это

Гармонический анализ занимается различными обобщениями разложения $L^2$-функций на окружности в ряд Фурье.

Я докажу аналогичный результат для произвольной компактной группы Ли вместо окружности.

Базисные функции $e^{2\pi inx}$ (на окружности, параметризованной $x\in\mathbb R/\mathbb Z$), по которым происходит разложение в ряд Фурье, соответствуют всевозможным неприводимым унитарным представлениям окружности, рассматриваемой как топологическая группа. Таким образом, оно задаёт разложение в гильбертову прямую сумму $L^2(\mathbb R/\mathbb Z, \mu)\simeq\bigoplus\limits_{n\in\mathbb Z}^{\boldsymbol\cdot}V_n$, где $\mu$ — мера Хаара на окружности (короче говоря, длина), а $V_n$ — экземпляр пространства $\mathbb C$ со стандартным скалярным произведением $\langle z,w\rangle=z\bar w$ и с унитарным представлением $\rho_n:\mathbb R/\mathbb Z\to U(1), x\mapsto e^{2\pi inx}$.

$L^2(\mathbb R/\mathbb Z,\mu)$ само является (бесконечномерным) унитарным представлением $\mathbb R/\mathbb Z$: $y\in \mathbb R/\mathbb Z$ действует сдвигом аргумента на $y$, то есть $f\mapsto T_yf$, $(T_yf)(x)=f(x+y)$. Это представление называется регулярным. Разложение в прямую сумму согласовано с регулярным представлением: если $f(x)=\sum\limits_n\widehat f_ne^{2\pi inx}$, то $\widehat{(T_yf)}_n=\rho_n(y)\widehat f_n$ (доказательство: $f(x)=\sum\limits_nc_ne^{2\pi inx}$ $\Longrightarrow (T_yf)(x)=f(x+y)=\sum\limits_n\widehat f_ne^{2\pi in(x+y)}=\sum\limits_n(\rho_n(y)\widehat f_n)e^{2\pi inx}$). (Очень важно, что преобразование Фурье переводит трансляцию аргумента в умножение фурье-образа на что-то: в результате операторы дифференцирования — генераторы трансляций — под действием преобразования Фурье превращаются в алгебраические операторы. Это бывает очень полезно, например, при решении дифференциальных уравнений.)

Таким образом, регулярное представление разложилось в гильбертову прямую сумму неприводимых унитарных представлений окружности, по одному из каждого класса изоморфизма. Оказывается, подобное разложение имеет место для многих других локально компактных хаусдорфовых топологических групп. А именно, обозначим $\widehat G$ множество классов изоморфизма унитарных конечномерных неприводимых представлений $G$, и выберем в каждом классе $\lambda\in\widehat G$ представление $\rho_\lambda:G\to U(V_\lambda)$ (группа унитарных операторов на $V_\lambda$). Тогда во многих случаях можно построить разложение в прямой интеграл $L^2(G,\mu)\simeq{\displaystyle\int^\oplus_{\widehat G}} d\lambda\,V_\lambda^{\oplus\dim V_\lambda}$, где $\mu$ — мера Хаара на $G$, а интеграл берётся по какой-то мере на $\widehat G$.

1. Если $G$ компактна и абелева, то это просто считающая мера, все неприводимые представления одномерны, и прямой интеграл сводится к гильбертовой прямой сумме, как в классическом случае окружности.
2. Если она компактна, но не абелева, то всё то же самое, но неприводимые представления не обязательно одномерны.
3. Если группа абелева, но не компактна (а только локально компактна), то интеграл к прямой сумме уже не сводится. Однако в этом случае (как и в случае 1) $\widehat G$ само естественным образом является локально компактной абелевой хаусдорфовой топологической группой (умножение происходит из операции тензорного умножения предствлений), и прямой интеграл берётся по её мере Хаара. Сопоставление топологических групп $G\mapsto\widehat G$ называется двойственностью Понтрягина. Классический частный случай — $G=\mathbb R$: это преобразование Фурье. ($\widehat{\mathbb R}\simeq \mathbb R$.)
4. $G$ неабелева и некомпактна. Это самый сложный случай, и он до конца не понят. Разложение в прямой интеграл вышеуказанного вида доказано, например, для всех вещественных (или комплексных) алгебраических редуктивных групп. Например, для $SL(n,\mathbb R)$.

Далее мы сосредоточимся на компактных группах, то есть на случае 2 (случай 1 туда тоже будет включён). В этом случае $\widehat G$ «дискретно» (нестрогое утверждение), поэтому сложного анализа не будет (в частности, прямых интегралов не будет и знать про них ничего не надо).



2. Обозначения, соглашения

(В предыдущем пункте обозначения были немного другие, смотрите сюда, а не туда.)

$G$ — компактная группа Ли.

• Cвязность не предполагается. То есть конечные группы сюда входят как частный случай (дискретная топология превращает конечную группу в $0$-мерную группу Ли).
  
• Предположение о гладкости не очень существенно: почти всё следующее верно для произвольной компактной хаусдорфовой топологической группы.
  
• Предположение о компактности очень существенно.

$\widehat G$ — множество классов изоморфизма неприводимых конечномерных комплексных непрерывных представлений $G$.

(Оффтоп)

Далее мы увидим, что мы ничего не потеряли бы и не приобрели, если бы рассматривали классы изоморфизма унитарных представлений на эрмитовых пространствах.

Мы будем считать, что в каждом классе $\lambda\in\widehat G$ выбрано определённое представление $\rho_\lambda$ на комплексном векторном пространстве $V_\lambda$ (от этого выбора мало что зависит).

Все представления по умолчанию предполагаются комплексными и непрерывными.

Если $V$ — векторное пространство, то $V^\vee$ — двойственное векторное пространство. Эрмитово скалярное произведение линейно по первому аргументу.

Я не различаю элементы пространства $L^2$ (классы функций по отношению эквивалентности «совпадают вне множества нулевой меры») и сами эти функции, но ничего плохого от этого не случается.

Вейлем везде называется Герман Вейль.



3. Лемма Шура

Пусть $\rho:G\to GL(V)$ и $\sigma: G\to GL(W)$ два представления. Морфизмом представлений $\rho\to\sigma$ называется линейное отображение $T:V\to W$ (сплетающий оператор), коммутирующее с представлениями, то есть для любого $x\in G$ должно быть $T\rho(x)=\sigma(x)T$.

Лемма Шура. Если $\rho$ — конечномерное неприводимое представление $G$, то все морфизмы $\rho\to\rho$ пропорциональны тождественному. Если $\rho$ и $\sigma$ — неизоморфные конечномерные неприводимые представления, то между ними есть только нулевой морфизм.

Доказательство: Пусть $T:V\to W$ сплетающий оператор. Его ядро и образ $G$-инвариантны; так как $\rho$ и $\sigma$ неприводимы, то они либо $0$, либо всё пространство. Это значит, что либо $T=0$, либо он биективен, то есть является изоморфизмом представлений.

Если $\rho=\sigma$, то рассмотрим его собственное значение $\lambda$ оператора $T$. Для $T-\lambda1$ верно всё, что выше написано про $T$, но биективным он быть уже не может, значит, он нулевой, то есть $T=\lambda1$. $\square$



4. Мера Хаара

В этом пункте мы будем существенно использовать предположение, что $G$ — группа Ли. Мера Хаара определена и для произвольной (локально) компактной хаусдорфовой топологической группы, но эта ситуация несколько сложнее (а если группа некомпактна, то мер Хаара две: левая и правая, они могут не совпадать).

Обозначим $l_x:G\to G$ отображение левого умножения на $x\in G$, то есть $l_x(y):=xy$. Аналогично $r_x(y):=yx$ — отображение правого умножения.

Предложение. Любая группа Ли ориентируема. Зафиксируем на нашей компактной группе Ли $G$ одну из двух возможных ориентаций. Тогда есть единственная дифференциальная форма $\mathrm{Vol}$ старшей степени на $G$ со следующими свойствами:

1. Инвариантность относительно левого умножения: $l_x^*\mathrm{Vol}=\mathrm{Vol}$ для любого $x\in G$.
2. $\int_G\mathrm{Vol}=1$.

(Естественно, можно заменить в формулировке левое на правое.)

Доказательство: Это простое применение некоторых стандартных фактов теории групп Ли, которые я сейчас напомню.

Любой вектор из касательного пространства к единице группы можно разнести левым (а можно и правым) умножением на всю группу и получить таким образом левоинвариантное векторное поле на группе. Подробнее: пусть $v\in T_1G=:\mathfrak g$, тогда положим $V(x):=l_{x*}v$. Это векторное поле левоинвариантно: $(l_{y*}V)(x)=l_{y^*}(V(y^{-1}x))=l_{y*}l_{y^{-1}x*}v=l_{x*}v=V(x)$, и оно не обращается в 0 при $v\ne 0$, так как $l_x$ — диффеоморфизм. Поэтому полученное отображение $G\times\mathfrak g\to TG$ — послойный изоморфизм. Оно гладко, потому что оно есть композиция гладких отображений $G\times\mathfrak g\to G\times TG\to TG\times TG\simeq T(G\times G)\to TG$, где первая стрелка индуцирована вложением $\mathfrak g=T_1G\to TG$, вторая — нулевым сечением $G\to TG$, а последняя — дифференциал гладкого отображения умножения $G\times G\to G$. Таким образом, все левоинвариантные векторные поля гладкие, и мы построили тривиализацию касательного расслоения $G\times\mathfrak g\simeq TG$.

(Оффтоп)

Чтобы доказать изоморфность локально тривиальных гладких векторных расслоений, достаточно построить гладкий послойный изоморфизм между ними: гладкость обратного отображения обеспечена локальной тривиальностью. В частности, для доказательства тривиальности достаточно построить набор глобально определённых гладких векторных полей, ограничения которых на касательное пространство к каждой точке базы составляют там базис.

Теперь можно брать двойственные расслоения, тензорные степени и т. д.; в частности, получается изоморфизм $G\times\bigwedge^{\dim G}\mathfrak g^*\simeq\bigwedge^{\dim G}T^*G$ (влекущий ориентируемость $G$). Соответствующее отображение $\bigwedge^{\dim G}\mathfrak g^*\to\Gamma(\bigwedge^{\dim G}T^*G)$ переводит форму $\omega\in\bigwedge^{\dim G}\mathfrak g^*$ в её левоинвариантное продолжение — форму $\Omega(x)=l_{x^{-1}}^*\omega$ — и устанавливает изоморфизм $\bigwedge^{\dim G}\mathfrak g^*$ и пространства левоинвариантнах дифференциальных форм старшей степени на $G$.

Выберем там произвольную $\Omega\ne 0$ и положим $\mathrm{Vol}:=\dfrac{\Omega}{\int_G\Omega}$. ($\int_G\Omega$ конечен в силу компактности $G$ и не равен нулю, так как в силу левоинвариантности $\Omega$ ни в одной точке $G$ не обращается в 0.) Так как пространство левоинвариантных форм старшей степени 1-мерно (в силу вышеуказанного изоморфизма), то $\mathrm{Vol}$ есть единственная левоинвариантная форма с интегралом 1. $\square$

Предложение. Эта форма инвариантна и отностельно правого умножения тоже.

Доказательство: Заметим сначала, что для любого $y$ форма $r_y^*\mathrm{Vol}$ левоинвариантна (так как левое и правое умножение коммутируют, то и их обратные образы коммутируют: $l_x^*r_y^*\mathrm{Vol}=r_y^*l_x^*\mathrm{Vol}=r_y^*\mathrm{Vol}$.) Поэтому $r_y^*\mathrm{Vol}=\Delta(y)\mathrm{Vol}$, где $\Delta:G\to\mathbb R_{>0}$ — так называемая модулярная функция. Она гладкая (частное ненулевых гладких функций). Более того, это гомоморфизм групп ( $\Delta(y)\Delta(z)\mathrm{Vol}=\Delta(y)r_z^*\mathrm{Vol}=r_z^*r^*_y\mathrm{Vol}=r_{yz}^*\mathrm{Vol}=\Delta(yz)\mathrm{Vol}$ ), поэтому её образ — подгруппа $\mathbb R_{>0}$ по умножению. Так как $G$ компактна, а $\Delta$ непрерывна, то образ $\Delta$ компактен. Однако в группе $\mathbb R_{>0}$ по умножению нет нетривиальных компактных подгрупп. Действительно, она топологически изоморфна $\mathbb R$ по сложению (изоморфизм — логарифм), в $\mathbb R$ компактность равносильна ограниченности, а любой ненулевой $x\in\mathbb R$ аддитивно порождает неограниченную подгруппу. Итак, для компактной группы модулярная функция тождественно равна единице. $\square$

Порождаемая этой формой мера называется мера Хаара; интеграл от функции $f$ по этой мере мы будем обозначать $\int_Gdx\,f(x)$, а соответствующее $L^2$-пространство — $L^2(G)$.

Замечание. Из существования ненулевой биинвариантной формы старшей степени $\mathrm{Vol}$ можно вывести существование биинвариантной римановой метрики на компактной группе Ли $G$ (относительно которой $\mathrm{Vol}$ будет формой объёма). Но такая метрика не единственна, если $G$ не проста.



5. Унитаризуемость конечномерных представлений компактных групп

Предложение. Пусть $\rho:G\to\mathrm{GL}(V)$ конечномерное представление $G$. Тогда можно выбрать эрмитово скалярное произведение на $V$ так, что все операторы $\rho(x)$ ($x\in G$) будут относительно него унитарны. Если $\rho$ неприводимо, то такое скалярное произведение единственно с точностью до масштабирования (домножения на ненулевое комплексное число).

Доказательство: Выберем любое эрмитово скалярное произведение $(\cdot,\cdot)$ на $V$ и усредним по группе: $\langle v,w\rangle:=\int_G\,dx(\rho(x)v,\rho(x)w)$. Полученное является эрмитовым скалярным произведением, и для любого $v\in V,y\in G$ верно $\langle\rho(y)v,\rho(y)v\rangle=\int_G\,dx(\rho(xy)v,\rho(xy)w)=\langle v,v\rangle$, то есть все операторы представления унитарны.

Единственность следует из леммы Шура (упражнение). $\square$

Предложение. Любое унитарное конечномерное представление $\rho:G\to U(V)$ раскладывается в прямую сумму неприводимых подпредставлений.

Доказательство: Пусть $W\subset V$ — нетривиальное $G$-инвариантное подпространство, тогда $W^\perp$ тоже: если $v\in W^\perp$, то для любого $x\in G$ и $w\in W$ имеем $\langle\rho(x)v, w\rangle=\langle v, \rho(x^{-1})w\rangle=0$, поэтому $\rho(x)v\in W^\perp$. Мы разложили $V$ в нетривиальную прямую сумму $W\oplus W^\perp$, дальше будем делать то же самое со слагаемыми, и через конечное число шагов получим прямую сумму, все слагаемые которой неприводимы (потому что размерность $V$ конечна). $\square$

Следствие. Любое конечномерное представление компактной группы Ли раскладывается в прямую сумму неприводимых. $\square$

Замечание. Для некомпактных групп это может быть неверно: например, представление $\mathbb R\to GL(2)$, $a\mapsto\begin{pmatrix}1&a\\0&1\end{pmatrix}$ не раскладывается в прямую сумму неприводимых.



6. Представляющие функции

Пусть $\rho:G\to\mathrm{GL}(V)$ — конечномерное представление $G$.

Каждому линейному функционалу $a\in(\operatorname{End}V)^\vee$ на пространстве $\operatorname{End}V$ линейных операторов $V\to V$ соответствует (непрерывная) комплекснозначная функция $x\mapsto a\circ\rho(x)$ на $G$. Такие функции называются представляющие функции представления $\rho$. Они образуют конечномерное подпространство в пространстве $C(G)$ всех непрерывных функций на $G$ — образ вышеописанного (линейного) отображения $(\operatorname{End}V)^\vee\to C(G)$.

Это подпространство не меняется при замене $\rho$ на изоморфное представление $\tilde\rho$, потому что представляющие функции $\tilde\rho$ выражаются линейно через представлящие функции $\rho$:
$\tilde\rho=T^{-1}\rho T$.

Представляющие функции, соответствующие функционалам вида $A\mapsto l(Av)$ ($v\in V, l\in V^\vee$), называются матричные элементы представления $\rho$. Так как $(\operatorname{End}V)^\vee$ линейно порождается функционалами указанного вида, то пространство представляющих функций данного представления линейно порождается его матричными элементами.



7. Скалярное произведение Фробениуса (напоминание из линейной алгебры)

Пусть $V$ комплексное векторное пространство с эрмитовым скалярным произведением. Тогда $\operatorname{End}V$ линейно порождается операторами вида $u\mapsto\langle u,w\rangle v$ ($v,w\in V$), и это задаёт естественный линейный изоморфизм $\operatorname{End}V\simeq V\otimes \overline V$. Он позволяет нам определить эрмитово скалярное произведение на $\operatorname{End}V\simeq V\otimes \overline V$: для разложимых тензоров положим $\langle v\otimes w,v'\otimes w'\rangle:=\langle v,v'\rangle\overline{\langle w,w'\rangle}$, и продолжим на всё пространство по полуторалинейности. (Это стандартное определение тензорного произведения гильбертовых пространств; если размерности бесконечны, то ещё надо пополнить.) Полученное эрмитово скалярное произведение на $\operatorname{End}V$ называется скалярное произведение Фробениуса; будем обозначать его $\langle\cdot,\cdot\rangle_{\mathrm{Fr}}$. Если $e_1,...,e_{\dim V}$ — ортонормированный базис $V$, то $\langle A,B\rangle_{\mathrm{Fr}}=\sum\limits_{i,j} {A^i}_j\overline{{B^i}_j}$.

Как обычно, скалярное произведение на $\operatorname{End}V$ определяет скаляное произведение на $(\operatorname{End}V)^\vee$, его мы будем обозначать так же.

Если $V$ является пространством неприводимого конечномерного представления $G$, то, как мы помним, на $V$ есть единственное с точностью до масштабирования скалярное произведение, относительно которого представление унитарно. Скалярное произведение Фробениуса не меняется при масштабировании скалярного произведения на $V$ (упражнение), то есть оно однозначно определяется представлением.

Нам будет удобно перемасштабировать его следующим образом: для $a,b\in(\operatorname{End}V)^\vee$ мы полагаем $\langle a,b\rangle:=\dfrac{\langle a,b\rangle_{\mathrm{Fr}}}{\dim V}$. (Эквивалентно, для $A,B\in\operatorname{End}V$ $\langle A,B\rangle={\langle A,B\rangle_{\mathrm{Fr}}}\;{\dim V}$.)



8. Cоотношения ортогональности

Лемма. Пусть $\rho:G\to GL(V)$ и $\sigma:W\to GL(W)$ конечномерные представления, $A:W\to V$ — линейное отображение. Тогда его усреднение $\widetilde A:=\int_Gdx\,\rho(x)A\sigma(x)^{-1}$ — сплетающий оператор. Если $\rho=\sigma$, то $\operatorname{tr}\widetilde A=\operatorname{tr}{A}$.

Из этого утверждения и из леммы Шура сразу следует, что если $\rho$ и $\sigma$ неприводимы, то

$\widetilde A=\begin{cases}0,&\text{если }\rho\not\simeq\sigma,\\ \dfrac{\operatorname{tr}A}{\dim V}1,&\text{если }\rho=\sigma.\end{cases}$

Доказательство: $\rho(y)\widetilde A=\int_Gdx\, \rho(yx)A\sigma(x)^{-1}=\int_Gdz\, \rho(z)A\sigma(y^{-1}z)^{-1}=\widetilde A\sigma(y)$.

Если $\rho=\sigma$, то $\operatorname{tr}\widetilde A=\int_Gdx\,\operatorname{tr}(\rho(x)A\rho(x)^{-1})=\int_Gdx\,\operatorname{tr}A=\operatorname{tr}A$. $\square$

Теорема (соотношения ортогональности). Представляющие функции неизоморфных неприводимых конечномерных представлений $G$ ортогональны в $L^2(G)$.

Если $\rho:G\to GL(V)$ неприводимое конечномерное представление, $a,b\in(\operatorname{End}V)^\vee$, то $L^2$ скалярное произведение соответствующих представляющих функций $\langle a\circ\rho, b\circ\rho\rangle_{L^2(G)}=\langle a,b \rangle$ (скалярное произведение Фробениуса, делённое на $\dim V$; см. выше).

(В более явном виде это значит, что если выбрать на $V$ эрмитово скалярное произведение, относительно которого $\rho$ унитарно, и выбрать ортонормированный базис $V$ относительно этого скалярного произведения, то в этом базисе будет $\int\limits_Gdx\;{\rho^i}_j(x)\overline{\rho^{i'}_{\phantom{i'}j'}(x)}=\frac1{\dim V}$, если $i=i'$ и $j=j'$, а иначе $0$.)

Доказательство: Достаточно проверить равенство для матричных элементов, потому что они порождают пространство представляющих функций.

Зафиксируем на $V$ и $W$ эрмитовы скалярные произведения, относительно которых представления унитарны. Тогда любой матричный элемент $\rho$ равен $\langle \rho(x)v,v'\rangle$ для каких-то $v,v'\in V$, и аналогично любой матричный элемент $\sigma$ равен $\langle \rho(x)w,w'\rangle$ для каких-то $w,w'\in W$.

Итак, надо доказать, что для любых $v,v'\in V,\; w,w'\in W$ верно $\int\limits_Gdx\,\langle \rho(x)v,v'\rangle\overline{\langle \sigma(x)w,w'\rangle}=\begin{cases}0,&\text{если }\rho\not\simeq\sigma,\\ \dfrac{\langle v,w\rangle\overline{\langle v',w'\rangle}}{\dim V},&\text{если }\rho=\sigma.\end{cases}$

Нужное нам ревенство получается применением предыдущей леммы к оператору $A_{wv}:W\to V$, $w''\mapsto \langle w'',w\rangle v$: $L^2$ скалярное произведение наших матричных элементов есть в точности $\langle \widetilde A_{wv}w',v'\rangle$, причём при $W=V$ след $\operatorname{tr}A_{wv}=\langle v,w\rangle$.

(Удобнее всего это считать в обозначениях Дирака: вектор $u$ обозначается $|u\rangle$, скалярное произведение $\langle u,u'\rangle=:\langle u'|u\rangle$, $\langle Lu,u'\rangle=:\langle u'|L|u\rangle$. В этих обозначениях $A_{wv}|w''\rangle=|v\rangle\langle w|w''\rangle$, поэтому оператор $A_{wv}$ в них записывается $|v\rangle\langle w|$, и сразу видно $\int\limits_Gdx\,\langle \rho(x)v,v'\rangle\overline{\langle \sigma(x)w,w'\rangle} =\int\limits_Gdx\,\langle v'|\rho(x)|v\rangle\langle w|\sigma(x)|w'\rangle =\Big\langle v'\Big|\quad \int\limits_Gdx\;\rho(x)\;|v\rangle\langle w|\;\sigma(x)\quad\Big|w'\Big\rangle$.) $\square$



9. Теорема Петера — Вейля

Теорема. Линейная оболочка множества матричных элементов конечномерных неприводимых представлений плотна в пространстве $C(G)$ непрерывных функций на $G$ (с нормой $|f|_\infty:=\max\limits_{x\in G}|f(x)|$).

(Отсюда следует, что она плотна и в $L^2(G)$, так как $C(G)$ плотно в $L^2(G)$, а вложение $C(G)\hookrightarrow L^2(G)$ непрерывно.)

Доказательство (простая часть): Слово «неприводимых» из формулировки можно убрать, потому что любое конечномерное представление раскладывается в прямую сумму неприводимых (и, значит, любой матричный элемент конечномерного представления — сумма матричных элементов неприводимых конечномерных представлений).

Линейная оболочка множества матричных элементов всех конечномерных представлений образует унитальную $*$-подалгебру в $C(G)$, потому что:

• произведение матричных элементов 2 представлений — матричный элемент тензорного произведения этих представлений,
• функция, комплексно сопряжённая к матричному элементу — матричный элемент комплексно сопряжённого представления,
• функция, тождественно равная единице — матричный элемент тривиального 1-мерного представления.

По теореме Стоуна — Вейерштрасса, осталось доказать, что матричные элементы конечномерных представлений разделяют элементы $G$, то есть что для любых $x,y\in G, x\ne y$ найдётся конечномерное представление $\rho$, такое что $\rho(x)\ne \rho(y)$; равносильное утверждение: для любого $x\ne 1$ найдётся $\rho$, такое что $\rho(x)\ne 1$.

Для конечной группы $G$ это очевидно: подойдёт регулярное представление. Это также очевидно в случае когда $G$ матричная группа Ли, то есть замкнутая подгруппа $GL(n)$. Так что для этих случаев доказательство здесь заканчивается. $\square$

Вообще-то любая компактная группа Ли матричная, так что хотелось бы на этом совсем закончить. Но доказать это — примерно всё равно, что доказать теорему Петера — Вейля без предположения о матричности. Поэтому всё равно приходится продолжить.



10. Доказательство в общем случае

Чтобы доказать теорему Петера — Вейля в общем случае, осталось доказать следующее: пусть $G$ компактная группа Ли, $x\in G, x\ne 1$, тогда найдётся конечномерное представление $\rho$ группы $G$, такое что $\rho(x)\ne 1$.

Сначала нужна некоторая подготовка.

10.1. Трансляции

Пусть $x\in G$, $f\in L^2(G)$. Тогда функция $z\mapsto f(x^{-1}z)$ тоже из $L^2(G)$ (это композиция измеримых отображений — несложно показать, что непрерывные отображения топологических пространств измеримы относительно борелевских $\sigma$-алгебр, — а интеграл квадрата её модуля равен $\int_Gdx\,|f(x)|^2$ в силу инвариантности меры Хаара). Таким образом, определён унитарный (в частности, непрерывный) линейный оператор левой трансляции $L(x):L^2(G)\to L^2(G)$.

Непрсредственно проверяется, что $L(x)L(y)=L(xy)$, так что операторы левой трансляции образуют унитарное представление $G$; оно называется левое регулярное представление.

То же самое можно сказать про операторы правой трансляции $R(x)$: они образуют правое регулярное представление.

10.2. Интегральные операторы (напоминание)

Пусть $(X,\mu)$ и $(Y,\nu)$ — пространства с $\sigma$-конечными мерами, $K\in L^2(X\times Y, \mu\times\nu)$. Тогда определён интегральный оператор с ядром $K$, который $f\in L^2(X,\mu)$ превращает в функцию $y\mapsto \int_Xd\mu(x)\,K(x,y)f(x)$ на $Y$. Из функционального анализа известно, что эта формула корректно определяет непрерывный линейный оператор $L^2(X,\mu)\to L^2(Y,\nu)$, причём он компактен.

10.3. Свёртки

Пусть $f,g\in L^2(G)$. Определим функцию $g*f(x):=\int_Gdy\,g(y)f(y^{-1}x)$ — свёртку $g$ и $f$.

Правая (для определённости) свёртка с фиксированной функцией $f\in L^2(G)$ — интегральный оператор $r_f$ c ядром $K(x,y):=f(y^{-1}x)$. Оно измеримо (композиция измеримых функций) и принадлежит $L^2(G\times G)$ — это следует из теоремы Фубини и из конечности меры Хаара на компактной группе: $\int_{G\times G}dx\,dy\;|f(y^{-1}x)|^2=\int_Gdy\left(\int_Gdx|f(y^{-1}x)|^2\right)=|f|_{L^2(G)}$. Поэтому свёртка любых функций из $L^2$ принадлежит $L^2$ (на самом деле она даже непрерывна, но это сейчас не важно), а оператор правой свёртки $r_f$ непрерывен и компактен.

Прямая проверка показывает, что если для любого $x\in G$ верно $f(x^{-1})=\overline{f(x)}$, то $r_f$ симметричен, следовательно самосопряжён.

Прямая проверка показывает, что операторы правой свёртки коммутируют с левыми трансляциями.

Всё это можно повторить и про операторы левой свёртки $l_f$ (только они коммутируют с правыми трансляциями).

10.4. Окончание доказательства теоремы Петера — Вейля

Итак, предположим, что $x\in G$, $x\ne 1$, но $\rho(x)=1$ для любого конечномерного представления $\rho$. В частности, это верно для любого конечномерного подпространства $L^2(G)$, инвариантного относительно левых (или правых) трансляций.

Пусть $f\in L^2(G)$ какая-нибудь функция, такая что $f(x^{-1})=\overline{f(x)}$ (это условие, обеспечивающее самоспряжённость оператора $r_f$ правой свёртки с $f$). Спектральная теорема в применении к $r_f$ даёт разложение в гильбертову прямую сумму ортогональных подпространств $L^2(G)\simeq\bigoplus\limits_\lambda^{\boldsymbol\cdot}V_\lambda$, где $\lambda$ пробегает собственные значения $r_f$, а $V_\lambda\subset L^2(G)$ означает соответствующее собственное подпространство. Так как $r_f$ самосопряжён, то все его собственные значения вещественны, а так как он компактен, то единственная допустимая предельная точка множества собственных значений — $\lambda=0$, причём при $\lambda\ne 0$ $V_\lambda$ обязательно конечномерно.

Так как правые свёртки коммутируют с левыми трансляциями, то для любого $\lambda$ подпространство $V_\lambda$ инвариантно относительно левых трансляций: $r_fv=\lambda v$ влечёт $r_fL(y)v=L(y)r_fv=\lambda L(y)v$ для любого $y\in G$. Значит, $L(x)$ (где $x$ — нехороший элемент, зафиксированный нами в начале) действует тождественно на любом конечномерном $V_\lambda$, то есть на любом, кроме, может быть, $V_0$. Поэтому $\operatorname{im}(L(x)-1)\subset V_0$, то есть $r_f(L(x)-1)=0=(L(x)-1)r_f$. То есть $L(x)(g*f)=g*f$ для любой $g\in L^2(G)$.

Если $x\ne 1$, то так быть не может. Действительно, выберем окрестность $U$ единицы, так чтобы $U^{-1}=U$ и $U^2\not\ni x$ (это можно сделать в силу хаусдорфовости $G$ и непрерывности операций умножения и взятия обратного). Теперь пусть $f=1$ на $U$ и $0$ вне её.
Тогда $f*f(x)=\int_Gdy\,f(y)f(y^{-1}x)=0$ (потому что $y\in U$ и $y^{-1}x\in U$ $\Longrightarrow x\in U^2$), а $f*f(1)=\int_Gdy\,f(y)f(y^{-1})=\mathrm{Vol}(U)\ne 0$. $\square$



11. Ряды Фурье

Из ортогональности матричных элементов неизоморфных представлений следует, что множество $\widehat G$ классов изоморфизма неприводимых представлений $G$ не более чем счётно. Теперь из теоремы Петера — Вейля следует, что оно конечно, если $G$ конечна, и счётно, если бесконечна.

Мы установили, что для любого $\lambda\in\widehat G$ взятие матричного элемента $\operatorname{End}V_\lambda\simeq (\operatorname{End}V_\lambda)^\vee\to L^2(G)$ есть изометрическое вложение (это соотношения ортогональности для одного неприводимого представления). Продолжим это до $\mathscr F^{-1}:\bigoplus\limits_{\lambda\in\widehat G}\operatorname{End}V_\lambda\to L^2(G)$, $(\mathscr F^{-1}g)(x)= \sum\limits_{\lambda\in\widehat G}\langle g_\lambda, \rho_\lambda(x) \rangle$ (последняя формула называется формула обращения Фурье); это тоже изометрическое вложение (в силу соотношений ортогональности для неизоморфных неприводимых представлений) с плотным образом (по теореме Петера — Вейля). Поэтому его продолжение на пополнение $\bigoplus\limits_{\lambda\in\widehat G}\operatorname{End}V_\lambda$ — гильбертову прямую сумму $\bigoplus\limits^{\boldsymbol\cdot}_{\lambda\in\widehat G}\operatorname{End}V_\lambda$ — задаёт изоморфизм гильбертовых пространств $\mathscr F^{-1}:\bigoplus\limits^{\boldsymbol\cdot}_{\lambda\in\widehat G}\operatorname{End}V_\lambda \to L^2(G)$. Обратный к нему изоморфизм $\mathscr F:L^2(G)\to \bigoplus\limits^{\boldsymbol\cdot}_{\lambda\in\widehat G}\operatorname{End}V_\lambda$ называется преобразование Фурье. На непрерывных функциях $C(G)\subset L^2(G)$ оно задаётся формулой $(\mathscr Ff)_\lambda=\int\limits_Gdx\;f(x)\rho_\lambda(x) $.

Разложение функций на окружности в ряд Фурье соответствует $G=U(1)$: если присвоить номер $n$ неприводимому представлению $z\mapsto z^{-n}$, то последняя формула сводится к интегральной формуле для коэффициентов Фурье, а формула обращения Фурье делает ряд Фурье из совокупности коэффициентов Фурье.

Конечно, можно выбрать в каждом $V_\lambda$ эрмитово скалярное произведение, относительно которого представление $\rho_\lambda$ унитарно, и ортонормированный базис относительно этого скалярного произведения, и записывать $f_{\lambda\phantom{i}j}^{\phantom{\lambda }i}=\int\limits_Gdx\;f(x){{\rho_\lambda}^i}_j(x)$ и $f(x)=\sum\limits_\lambda\sum\limits_{i,j=1}^{\dim V_\lambda}f_{\lambda\phantom{i}j}^{\phantom{\lambda}i}\;\overline{ { {\rho_{\lambda}}^j}_i(x)}\dim V_\lambda$, чтобы было совсем похоже на формулы классической теории рядов Фурье.



12. Разложение регулярного представления

Впрочем, интересно здесь не существование изоморфизма гильбертовых пространств (любые 2 бесконечномерные сеперабельные гильбертовы пространства изоморфны), а то, что он задаёт изоморфизм представлений.

А именно, вспомним, что на $L^2(G)$ есть 2 унитарных представления группы $G$: левое регулярное $(L(x)f)(y):=f(x^{-1}y)$ и правое регулярное $(R(x)f)(y):=f(yx)$; таким образом, на $L^2(G)$ имеется регулярное представление группы $G\times G$ (первый множитель действует левым регулярным представлением, а второй правым). На $\operatorname {End} V_\lambda$ тоже есть 2 представления $G$: левое домножение $A\mapsto \rho_\lambda(x)A$ и правое домножение $A\mapsto A\rho_\lambda(x^{-1})$ (соответствующее представление $G\times G$ на $\operatorname{End}V\simeq V\otimes V^\vee$ есть не что иное как внешнее тензорное произведение $\rho_\lambda\boxtimes{\rho_\lambda}^\vee $).

Так вот, преобразование Фурье коммутирует с указанными представлениями $G$ и поэтому задаёт изоморфизм регулярного представления $G\times G$ на $L^2(G)$ и гильбертовой прямой суммы представлений $\bigoplus\limits^{\boldsymbol\cdot}_{\lambda\in\widehat G}\;\rho_\lambda\boxtimes{\rho_\lambda}^\vee$.

В частности, рассматривая действие только первого множителя $G$, получаем, что левое регулярное представление $G$ на $L^2(G)$ изоморфно гильбертовой прямой сумме $\bigoplus\limits^{\boldsymbol\cdot}_{\lambda\in\widehat G}\;\rho_\lambda^{\oplus\dim V_\lambda}$. То есть оно содержит в качестве прямого слагаемого каждое конечномерное неприводимое представление, столько раз, какова его размерность.