Давайте я попробую "накидать" чуть-чуть информации для формирования интуитивного представления.
Группа Ли -- она, как известно, одновременно и группа, и многообразие (некоторый геометрический объект, "поверхность", если вы термин многообразие ещё не знаете). Вот касательное пространство к нему в какой-то точке -- это пространство всех касательных векторов в этой точке (что такое "касательный", думаю, понятно интуитивно). Представьте, например, сферу, покоящуюся на столе. Тогда касательное пространство к ней в южном полюсе как раз плоскость стола.
Как поняли, что касательное пространство к
в единице есть матрицы с нулевым следом? Очень просто -- продифференцировали условие, задающее группу. Пусть
, тогда
. Почему именно дифференцируем? Ну, потому что касательное пространство в точке на самом деле пространство дифференцирований в этой точке, и вот тут как раз от наглядных примеров лучше перейти к учебнику.