Еще раз о тензорном произведении

[Padawan]

Решил в этой теме привести в систему сведения о тензорном произведении линейных пространств, которые обсуждались в теме http://dxdy.ru/topic61294.html

Профессор Снэйп в сообщении #603553 писал(а):

И, вообще-то, по уму, понятия прямой суммы, произведения и тензорного произведения надо определять в категорных терминах, через универсальные объекты. Это будет наиболее логично, красиво и правильно.

Определение тензорного произведения
Пусть $X,Y,Z$ -- линейные пространства, и пусть $\varphi \colon X\times Y\to Z$ -- билинейное отображение. Если оно универсально в следующем смысле: для любого билинейного отображения $\psi \colon X\times Y\to W$ существует единственное линейное отображение $f\colon Z\to W$ такое, что $\psi=f\circ\varphi$, то $Z$ называется тензорным произведением пространств $X$ и $Y$

$$ \xymatrix{ X\times Y \ar[r]^-\varphi \ar[rd]_-\psi & Z \ar@{-->}[d]^-f \\ & W} $$

(на этой диаграмме пунктирная стрелка означает существование и единственность отображения)
Значение билинейного отображения $\varphi(x,y)$ обозначается $x\otimes y$ и называется тензорным произведением элементов $x\in X, y\in Y$.

Единственность тензорного произведения
Тензорное произведение пространств $X$, $Y$ единственно с точностью до изоморфизма в следующем смысле:
Если $Z_1$, $Z_2$ -- два тензорных произведения, и $\varphi_1,\varphi_2$ -- соответствующие им универсальные билинейные отображения $\varphi_i\colon X\times Y\to Z_i, i=1,2$, то существует единственный линейный изоморфизм $f\colon Z_1\to Z_2$ такой, что $\varphi_2=f\circ\varphi_1$

$$ \xymatrix{ & & Z_1 \ar@{-->}[dd]^-f \\ X\times Y \ar[rru]^-{\varphi_1} \ar[rrd]_-{\varphi_2} & & \\ & & Z_2 } $$

Доказательство. Согласно определению тензорного произведения существует единственное линейное отображение $f\colon Z_1\to Z_2$ такое, что $\varphi_2=f\circ\varphi_1$, и существует единственное линейное отображение $g\colon Z_2\to Z_1$ такое, что $\varphi_1=g\circ\varphi_2$

$$ \xymatrix{ & & Z_1 \ar@/^7pt/@{-->}[dd]^-f \\ X\times Y \ar[rru]^-{\varphi_1} \ar[rrd]_-{\varphi_2} & & \\ & & Z_2\ar@/^7pt/@{-->}[uu]^-g } $$

Из этой коммутативной диаграммы получаем, что для линейного отображения $g\circ f\colon Z_1\to Z_1$ выполнено $(g\circ f)\circ\varphi_1=\varphi_1$. По определению тензорного произведения существует ровно одно линейное отображение $Z_1\to Z_1$ с таким свойством. Но для тождественного отображения $\rm{id}_{Z_1}\colon Z_1\to Z_1$ равенство $\rm{id}_{Z_1}\circ{\varphi_1=\varphi_1}$ выполняется. Следовательно $g\circ f=\rm{id}_{Z_1}$. Аналогично получаем $f\circ g=\rm{id}_{Z_2}$. Следовательно $f$, $g$ -- взаимно обратные линейные отображения, т.е. $f$ -- линейный изоморфизм.

Существование тензорного произведения
Теперь надо конструктивно построить хотя бы одно пространство $Z$ и билинейное отображение $\varphi\colon X\times Y\to Z$, удовлетворяющие определению тензорного произведения.
Рассмотрим свободное линейное пространство порожденное декартовым произведением $X\times Y$. То есть множество всех формальных линейных комбинаций вида $\alpha_1 (x_1,y_1)+\ldots +\alpha_n (x_n,y_n)$, где $\alpha_i$ -- скаляры, $x_i\in X$, $y_i\in Y$, $i=1,\ldots, n$. Обозначим это пространство буквой $L$. Можно также сказать, что $X\times Y$ является базисом Гамеля пространства $L$. Более формально $L$ можно определить как множество всех числовых функций, заданных на множестве $X\times Y$ и отличных от нуля только в конечном числе точек.

В $L$ рассмотрим линейное подпространство $M$, порожденное всеми элементами вида

$$(\alpha x,y)-\alpha (x,y),\; (x,\alpha y)-\alpha (x,y),\; (x_1+x_2,y)-(x_1,y)-(x_2,y),\; (x,y_1+y_2)-(x,y_1)-(x,y_2),$$

где $x,x_1,x_2$ пробегают $X$, $y,y_1,y_2$ пробегают $Y$, $\alpha$ пробегает поле скаляров.

Фактор-пространство $Z=L/M$ и будет искомым тензорным произведением. Его элементами являются классы смежности по подпространству $M$, т.е. множества вида $l+M$, где $l\in L$. Сложение и умножение на скаляры происходит по представителям: $(l_1+M)+(l_2+M)=(l_1+l_2)+M$, $\alpha (l+M)=\alpha l +M$. Нулевой элемент в $Z$ -- само подпространство $M$.

Обозначим через $\pi$ каноническую проекцию $\pi\colon L\to L/M$. Она сопоставляет элементу $l\in L$ содержащий его класс эквивалентности $\pi(l)=l+M$. Заметим, что $\pi$ является линейным отображением.

Определим билинейное отображение $\varphi\colon X\times Y\to Z$ следующим образом $\varphi(x,y)=\pi\big((x,y)\big)=(x,y)+M$. Проверим билинейность (она возникает из-за специального устройства подпространства $M$):

$$\varphi(\alpha x,y)-\alpha\varphi(x,y)=\pi\big((\alpha x,y)\big)-\alpha\pi\big((x,y)\big)=\pi\big((\alpha x,y)-\alpha (x,y)\big)=M=0$$

Аналогично

$$\varphi(x_1+x_2,y)-\varphi(x_1,y)-\varphi(x_2,y)=\pi\big((x_1+x_2,y)\big)-\pi\big((x_1,y)\big)-\pi\big((x_2,y)\big)=$$ $$=\pi\big((x_1+x_2,y)-(x_1,y)-(x_2,y)\big)=M=0$$

и т.д.

Проверим универсальность отображения $\varphi$. Пусть $\psi\colon X\times Y\to W$ -- билинейное отображение. Так как $L$ -- свободное пространство, порожденное множеством $X\times Y$, то существует (причем только одно) линейное отображение $F\colon L\to W$ такое, что $F\big((x,y)\big)=\psi(x,y)$ для любых $x\in X, y\in Y$.

Заметим, что на подпространстве $M$ отображение $F$ обращается в нуль. Действительно, т.к. $\psi$ билинейно, то

$$F\big((\alpha x,y)-\alpha (x,y)\big)=\psi(\alpha x,y)-\alpha\psi(x,y)=0$$

$$F\big((x_1+x_2,y)-(x_1,y)-(x_2,y)\big)=\psi(x_1+x_2,y)-\psi(x_1,y)-\psi(x_2,y)=0$$

и т.д. А такие элементы порождают $M$.

Т.к. $M\subset \operatorname{ker} F$, то $F=f\circ\pi$ для некоторого линейного отображения $f\colon Z\to W$. Для любых $x\in X, y\in Y$ имеем $f(\varphi(x,y))=f\big(\pi\big((x,y)\big)\big)=F\big((x,y)\big)=\psi(x,y)$. Таким образом, $f\circ\varphi=\psi$. Единственность такого линейного отображения очевидна, т.к. элементы $\varphi(x,y)=(x,y)+M$ порождают $Z$.

Таким образом, пространство $Z$ и билинейное отображение $\varphi\colon X\times Y\to Z$ удовлетворяют определению тензорного произведения.

Критерий тензорного произведения
Сформулируем необходимое и достаточное условие для того, чтобы линейное пространство $Z$ вместе с билинейные отображением $\varphi\colon X\times Y\to Z$ удовлетворяло определению тензорного произведения:

Лемма. Пусть $\varphi\colon X\times Y\to Z$ -- билинейное отображение. Обозначим $\varphi(x,y)=x\otimes y$. Пространство $Z$ вместе с отображением $\varphi$ является тензорным произведением $X$ и $Y$ тогда и только тогда, когда выполняются следуюшие два условия:
1) элементы $x\otimes y$ порождают $Z$;
2) если $\{\xi_p\}$ -- конечная линейно независимая система векторов в $X$, $\{ \eta_q\}$ -- конечная линейно независимая система векторов в $Y$, то $\{\xi_p\otimes \eta_q\}$ -- линейно независимая система векторов в $Z$.

Доказательство. Сначала докажем необходимость. Пусть $Z=X\otimes Y$, $\varphi\colon X\times Y\to Z$ -- соответствующее билинейное отображение. Для обоснования условий 1) и 2) будем использовать только свойство универсальности отображения $\varphi$.

Предположим, что не выполняется условие 1), т.е. подпространство $Z_0$, порожденное элементами $x\otimes y$, является собственным подпространством пространства $Z$. Тогда кроме тождественного отображения ${\rm{id}}_Z\colon Z\to Z$ уравнению $f\circ\varphi =\varphi$ удовлетворяет также любое отображение $f\colon Z\to Z$, совпадающее на $Z_0$ с ${\rm{id}}_Z$, но во всем пространстве отличное от ${\rm{id}}_Z$. Такое отображение можно получить в виде $f={\rm{id}}_Z+\mu\cdot a$, где $\mu=\mu(z)$ -- ненулевой линейный функционал на $Z$, равный нулю на $Z_0$, а $a$ -- любой ненулевой вектор в $Z$. Следовательно свойство универсальности нарушается в части единственности.

Докажем условие 2) Пусть вектора $\{\xi_p\}_{p=1}^n$ линейно независимы в $X$, а вектора $\{\eta_q\}_{q=1}^m$ линейное независимы в $Y$. Тогда существуют линейные функционалы $u_1,\ldots, u_n\in X^*$ такие, что $u_r(\xi_p)=\delta_{rp}$ для всех $r,p=1,\ldots,n$, и линейные функционалы $v_1,\ldots, v_m\in Y^*$ такие, что $v_s(\eta_q)=\delta_{sq}$ для всех $s,q=1,\ldots,m$.

Обозначим буквой $W$ свободное линейное пространство, порожденное множеством всех пар $(\xi_p,\eta_q)$, т.е. множество всех формальных линейных комбинаций таких пар. Рассмотрим следующее билинейное отображение $\psi\colon X\times Y\to W$:

$$ \psi(x,y)=\sum_{p=1}^n\sum_{q=1}^m u_p(x)v_q(y)\cdot(\xi_p,\eta_q) $$

Нетрудно видеть, что $\psi(\xi_r,\eta_s)=(\xi_r,\eta_s)$ для всех $r=1,\ldots, n$, $s=1,\ldots,m$.

Согласно определению тензорного произведения существует единственное линейное отображение $f\colon Z\to W$ такое, что $f(x\otimes y)=\psi (x,y)$ для всех $x\in X$, $y\in Y$. В частности, $f(\xi_p\otimes\eta_q)=\psi(\xi_p,\eta_q)=(\xi_p,\eta_q)$. Так как система векторов $\{(\xi_p,\eta_q)\}$ линейно независима в $W$ (она является базисом этого пространства), то система векторов $\{\xi_p\otimes\eta_q\}$ обязана быть линейно независимой в $Z$.

Докажем теперь достаточность условий леммы. Пусть линейное пространство $Z$ вместе с билинейным отображением $\varphi\colon Z\times Y\to Z$, $\varphi(x,y)=x\otimes y$ удовлетворяет условиям 1),2). Покажем, что тогда $Z$ вместе с $\varphi$ является тензорным произведением $X$ и $Y$.

Пусть $Z_1$ -- какое-либо тензорное произведение пространств $X,Y$, и $\varphi_1\colon X\times Y\to Z_1$, $\varphi_1(x,y)=x\otimes_1 y$ -- соответствующее универсальное билинейное отображение. По определению тензорного произведения существует единственное линейное отображение $f\colon Z_1\to Z$, такое, что $f\circ\varphi_1=\varphi$

$$ \xymatrix{ & & Z_1 \ar@{-->}[dd]^-f \\ X\times Y \ar[rru]^-{\varphi_1} \ar[rrd]_-{\varphi} & & \\ & & Z } $$

Покажем, что $f$ -- линейный измоморфизм между $Z_1$ и $Z$. Отсюда будет следовать, что $Z$ вместе с $\varphi$ также является тензорным произведением $X$ и $Y$.

Так как $f(x\otimes_1 y)=x\otimes y$, для любых $x\in X$, $y\in Y$, и по условию 1) эти элементы порождают $Z$, то $\operatorname{im} f=Z$

Пусть $f(z_1)=0$ для некоторого $z_1\in Z_1$. По доказанному $z_1$ можно представить в виде $z_1=\sum_i \alpha_i\, x_i\otimes_1 y_i$ -- конечная сумма. Пусть $\{\xi_p\}_{p=1}^n$ -- базис линейной оболочки векторов $\{x_i\}$, $\{\eta_q\}_{q=1}^m$ -- базис линейной оболочки векторов $\{y_i\}$. Тогда $z_1$ можно переписать в виде $z_1=\sum_{p=1}^n\sum_{q=1}^m \beta_{pq}\cdot \xi_p\otimes_1\eta_q$.

Имеем

$$f(z_1)=\sum_{p=1}^n\sum_{q=1}^m \beta_{pq}\cdot f(\xi_p\otimes_1\eta_q)=\sum_{p=1}^n\sum_{q=1}^m \beta_{pq}\cdot\xi_p\otimes\eta_q=0$$

По условию 2) система векторов $\{\xi_p\otimes\eta_q\}$ линейно независима в $Z$. Отсюда все коэффициенты $\beta_{pq}=0$. Значит, $z_1=0$. Значит, $\ker f=0$.

Лемма доказана.

Другие реализации тензорного произведения

Определение 2.

Oleg Zubelevich в сообщении #603673 писал(а):

Рассмотрим пространство $Z$ билинейных функционалов $f\colon X^*\times Y^*\to\mathbb{R}$. Тензорным произведением пространств $X,Y$ называется линейная оболочка элементов $x\otimes y\in Z,\quad (x\otimes y)(u,v)=u(x)v(y),\quad u\in X^*,\quad v\in Y^*.$

Определение 3.

Oleg Zubelevich в сообщении #602024 писал(а):

Пусть $X,Y$ -- векторные пространства. И $B$ -- пространство билинейных функций $f:X\times Y\to\mathbb{R}$. Тензорным произведением элементов $x\in X$ и $y\in Y$ (обозначается $x\otimes y$) называется отображение $f\mapsto f(x,y)$. Это отображение является элементом $B^*$. Т.е. это линейная функция на $B$

Линейная оболочка множества всевозможных $x\otimes y$ называется тензорным произведением пространств $X\otimes Y$.

Проверим, что определение 2 удовлетворяет условиям леммы. Условие 1) выполняется по определению. Проверим условие 2) Пусть $\{\xi_p\}$ -- конечная линейно независимая система векторов в $X$, $\{\eta_q\}$ -- конечная линейно независимая система векторов в $Y$. Предположим, что $\sum\limits_{p,q}\alpha_{pq}\cdot (\xi_p\otimes\eta_q)=0$. По определению это означает, что $\sum\limits_{p,q}\alpha_{pq}\cdot u(\xi_p)v(\eta_q)=0$ для любых функционалов $u\in X^*$, $v\in Y^*$. Выбирая функционалы $u_r$ и $v_s$ так, чтобы $u_r(\xi_p)=\delta_{rp}$, $v_s(\eta_q)=\delta_{sq}$, получим, что все коэффициента $\alpha_{pq}=0$. Значит, система векторов $\{\xi_p\otimes\eta_q\}$ линейно независима.

Проверка для определения 3 точно такая же. Условие 1) -- по определению. Если $\sum\limits_{p,q}\alpha_{pq}\cdot (\xi_p\otimes\eta_q)=0$, то по определению это значит, что для любой билинейной функции $b\in B$ выполнено $\sum\limits_{p,q}\alpha_{pq} b(\xi_p, \eta_q)=0$. В частности это выполняется для любых функционалов вида $b(x,y)=u(x)v(y)$, где $u\in X^*$, $v\in Y^*$. А этот случай мы уже рассмотрели.

[Oleg Zubelevich]

(Оффтоп)

а почему все время тензорное произведение двух пространств? а что изменится если их там сколько угодно будет? по-моему ничего не изменится, только понятие об ассоциативности операции $\otimes$ добавится.

[Padawan]

Oleg Zubelevich в сообщении #968893 писал(а):

а почему все время тензорное произведение двух пространств? а что изменится если их там сколько угодно будет? по-моему ничего не изменится, только понятие об ассоциативности операции $\otimes$ добавится.

Да, всё, что я выше описал (закончил, наконец ) распространяется на произведение любого конечного числа пространств. Вот с бесконечным числом пространств не знаю, надо подумать.

Ассоциативность формулируется так. Между $X\otimes Y\otimes Z$ и $(X\otimes Y)\otimes Z$ существует единственный линейный изоморфизм, удовлетворяющий условию $f(x\otimes y\otimes z)=(x\otimes y)\otimes z$.

Коммутативность тензорного произведения тоже имеется: между $X\otimes Y$ и $Y\otimes X$ существует единственный линейный изоморфизм, удовлетворяющий условию $f(x\otimes y)=y\otimes x$

Сейчас мне хотелось бы сопоставить тензорные операции в бескоординатной записи, с операциями в индексной форме. Например, как будут выглядеть в бескоординатной записи свертка, симметрирование и другие операции. Вроде бы Пенроуз в какой-то книге это пытался сделать. Может физики подскажут, в какой именно?

[Munin]

Padawan в сообщении #970181 писал(а):

Вроде бы Пенроуз в какой-то книге это пытался сделать. Может физики подскажут, в какой именно?

"Путь к реальности", но там у него введена собственная нотация (графическая), отнюдь не общепринятая. Вообще не получившая пока никакого распространения.

Я бы скорее предложил открыть Сарданашвили. Там, вроде бы, приведена сводка нотации стандартной.

-- 28.01.2015 20:06:47 --

В индексной форме - в физике общераспространена нотация Эйнштейна: знаки суммирования не пишут, но подразумевают суммирование по каждому индексу, повторяющемуся в произведении ровно дважды. Один раз - суммирования нет, а три или больше - некорректная запись.

[Padawan]

Munin
С индексной формой все понятно. А где описано именно бескоординатная техника? Вот, например, есть тензор $T\in X\otimes X^*$. Как понимать его свертку по верхнему и нижнему индексу?

Munin в сообщении #970188 писал(а):

Я бы скорее предложил открыть Сарданашвили. Там, вроде бы, приведена сводка нотации стандартной.

А как называется книга?

[Oleg Zubelevich]

Padawan в сообщении #970195 писал(а):

Вот, например, есть тензор $T\in X\otimes X^*$.

сверткой называется линейное отображение $S:X\otimes X^*\to\mathbb{R}$, которое на элементы вида $u\otimes v$ действует так $S(u\otimes v)=v(u)$. Соответственно сверткой $T$ называется число $S(T)$

(UPD)

[Padawan]

Oleg Zubelevich
Угу, только $S(u\otimes v)=v(u)$ А существование и единственность такого отображения как раз следует из универсального свойства.

[Munin]

Пятитомник Современные методы теории поля - по сути, большой математический справочник, для меня слишком сложный. Тензорное исчисление изложено в первом томе Геометрия и классические поля.

[Oleg Zubelevich]

вот это еще интересно почитать http://arxiv.org/pdf/1112.3128v1.pdf

[g______d]

Padawan в сообщении #970230 писал(а):

А существование и единственность такого отображения как раз следует из универсального свойства.

А это плохо?

[Munin]

Oleg Zubelevich
Пожалуйста, давайте ссылку не прямо на PDF, а на аннотацию (или, и на аннотацию). Неприятно идти по ссылке, не зная заранее, что там.

-- 29.01.2015 16:09:05 --

Padawan в сообщении #970181 писал(а):

Вот с бесконечным числом пространств не знаю, надо подумать.

Для практических целей было бы удобно рассматривать бесконечное тензорное произведение как какой-нибудь другой объект. Например, последовательные члены мультипольного разложения функции на сфере отвечают тензорам последовательных рангов, и получается, в пределе некоторая произвольная функция на сфере (как я понимаю, как-то интегрируемая) отвечает тензору бесконечного ранга. Но это только wild guess неспециалиста.

[Padawan]

g______d в сообщении #970416 писал(а):

А это плохо?

Наоборот, это хорошо.

Я нашел книгу, в которой читал, как Пенроуз тензоры понимает. Пенроуз, Риндлер Спиноры и пространство-время. Том 1. Глава 2 Метод абстрактных индексов и спинорная алгебра. Там он вводит некое понятие вполне рефлексивного модуля (или векторного пространства), требуя, чтобы любое полилинейное отображение порождалось некоторым тензором. И он утверждает, что класс вполне рефлексивных пространства шире, чем класс конечномерных пространств. Но мне кажется, что он ошибается, т.к. он вводит тензор $\delta^\alpha_\beta$ (дельта Кронекера) некоторыми очевидными равенствами, а он будет тензором (то есть конечно разложимым на $\sum X^{\alpha} Y_\beta$) только в конечномерном пространстве.

[Munin]

Padawan в сообщении #970586 писал(а):

Я нашел книгу, в которой читал, как Пенроуз тензоры понимает.

Ещё см. Пенроуз Путь к реальности. Там определения для более начинающего читателя, но вроде бы, все аккуратные и строгие - Пенроуз не такой человек, чтобы "срезать углы".

[scwec]

То, что изложил Padawan (честь ему и хвала) я прочитал впервые у С.Стернберга в книге "Лекции по дифференциальной геометрии" (переводное издание 1970 г. и 1964 г. на английском языке). Книга так и начинается. Предварительные сведения из алгебры. Тензорные произведения векторных пространств. Стернберг в этих вопросах ссылается на Н.Бурбаки "Полилинейная алгебра" и пишет: "Весь материал стандартный".
У Н.Бурбаки с библиографией не разбежишься - там Эйлер, Гаусс, Ферма, поближе к нам Риччи, Кронекер, короче, самая ближняя к нам книга в библиографии - это Е.Артин "Теория Галуа" 1942 года. Книга Н.Бурбаки издана у нас в 1962 году, во Франции чуть раньше.
Когда же впервые появилось изложение тензорной алгебры в представленном здесь виде на русском языке? Ведь у Стернберга совершенно отточенное изложение и даже диаграммы как у Padawan. Конечно, сейчас-то оно кочует из книги в книгу и никого не удивляет. А тогда было не так. Получается, что Бурбаки были первыми? Хотя признаётся как будто, что Кронекер изобрел тензорное произведение (конечно, в совершенно другом виде).
Мне ответ неизвестен. Но ведь кто-то первым сказал "мяу".

[Munin]

scwec в сообщении #970658 писал(а):

Получается, что Бурбаки были первыми?

Почему бы и нет. Они не зря известны как великие систематизаторы. А почему вы говорите про Стернберга, как вы его читали, а про Бурбаки - нет? Сейчас эта книга легко скачивается в интернете. (Книга Бурбаки Н. Алгебра, часть 1. Алгебраические структуры, линейная и полилинейная алгебра.)