А там особо не про что читать.
Пусть

-- комплексная алгебра Ли, пусть базис Шевалле составлен векторами

, где

пробегает простые корни,

-- все положительные корни. Инволюция Картана

-- это линейный автоморфизм, который по определению действует как

,

. Например, в случае

в стандартном базисе это транспонирование с минусом. Очевидно,

.
Пусть также

-- антилинейная инволюция (a.k.a. комплексное сопряжение). Пусть наш базис относительно нее вещественен (как обычный

базис относительно обычного комплексного сопряжения).
Инвариантная подалгебра

-- это split real form, т.е. просто real span of the Chevalley basis. Т.к. в chevalley basis структурные константы вещественны, то это действительно вещественная форма. Пример:

.
Инвариантная подалгебра

-- это real span of

. Это компактная подалгебра. Соответствующая группа -- компактная real form. Если без заумных слов, то

для

это просто минус-эрмитово сопряжение, поэтому мы выбираем для компактной формы ровно антиэрмитовы матрицы, что и требуется для унитарных представлений (для компактной алгебры они унитарны).
В цитате, которую Вы приводите,

определено для вещественной группы, но это тоже, я думаю, просто

, т.е. в представлениях просто эрмитово сопряжение с минусом. Отбирая антиэрмитовы матрицы, получаем унитарные представления, т.е. компактную подгруппу/подалгебру, как-то так, подумайте сами. Вообще, мне верить нельзя :)
А заглянуть можете в wikipedia "Cartan decomposition" и в Fulton Harris sec.26.1. В википедии еще ссылка какая-то есть.
Кстати, на будущее, еще хорошее введение в алгебры есть в книжке di Francesco, Mathieu, Senechal по CFT (ака желтый кирпич).