В общем, сгодится любая инфа по теме.
Ну, раз любая, попробую и я кой-чего написать. Хоть я, в общем, отошел уже от этих дел в основном.
Теория представлений --- эта такая область, которая разные аспекты имеет. Можно на нее смотреть с чисто алгебраической точки зрения, можно с точки зрения функана, можно ближе к алгебраической геометрии. Имейте в виду. Лично мне близка алгебраическая и алгебро-геометрическая точки зрения. А с какой точки зрения смотреть, зависит от того, куда ее дальше прилагать собираетесь, и откуда интерес к ней проистек. Скажем, если из изучения каких-то вопросов про конечные группы --- это одно, а из КТП --- совсем другой коленкор.
Универсального учебника по теории представлений нет, и быть не может, слишком уж она необъятна по целям своим, предмету и средствам. На представления группы треугольных матриц тоже можно смотреть с разных точек зрения. Можно с теоретико-функциональной точки зрения, тут я ничего сказать не могу, от меня это далеко. А можно с точки зрения алгебраических групп. Т.е. когда представление группы является регулярным отображением алгебраических многообразий.
Есть такой хороший аффтар, Дж.Е.Хамфри. Из его книг прямо штуки три переведены на русский. В частности,
Введение в теорию алгебр Ли и их представлений, а также
Линейные алгебраические группы. Весьма рекомендую. Узнаете что такое "редуктивная группа", "старший вес", "модуль Верма", и прочую хренотень. Более того, если собираетесь всерьёз задуматься над тем, какие бывают представления треугольной группы, даже и с точки зрения функана, узнать про вышеупомянутую хренотень просто необходимо. Так что не скучайте, пешыте, есличо. Хотя содержательного ответа заранее обещать не могу.
Более конкретно, про треугольную группу можно сказать, хотя и без полной уверенности, вот что. Задача эта дикая, в том смысле, что не имеет, и не может иметь в принципе, никакого разумного ответа. (Термин "дикая задача" имеет в математике некий точный смысл, а именно. Имеется некая "эталонная" нерешабельная задача, а именно, задача о приведении пары матриц преобразованием подобия к каноническому виду. Для одной матрицы канонический вид --- это жорданова форма. Так вот, дикая задача --- это такая, которая содержит в себе задачу о паре матриц. В том смысле, что если эту задачу решить, то из такого решения можно было бы вывести решение задачи о паре матриц (что невозможно). ) Правда, я не вполне уверен... Вот, скажем, задача о регулярных представлениях группы
(треугольных с единицами на диагонали) при
--- вот та уж точно дикая. А просто треугольных ... гм... может тут тор помогает. Не знаю. Но обший принцип такой, что всё, что не редуктивно, то дичь. Как-то так.
-- 06.09.2024, 16:54 --P.S. На всякий случай. В Хамфри в первом издании, с которого русский перевод, там в начале в одном месте про склеивание пучков ошибка, потом ее подчистили.