Инвариантная билинейная форма -- это всё равно, что морфизм из данного представления в двойственное.
Допустим, поле алгебраически замкнуто. Если представление неприводимо, то, по лемме Шура, ненулевая инвариантная билинейная форма существует тогда и только тогда, когда представление изоморфно своему двойственному, причём она единственна с точностью до умножения на число. Если приводимо, то вся сложность в том, чтобы построить разложение на неприводимые компоненты.
Если группа конечная, то усреднением по группе из произвольной билинейной формы можно сделать инвариантную (но она может оказаться нулевой). Если поле
, группа конечная (или компактная Ли...) и представление неприводимо, то существует ровно одна, с точностью до умножения на число, ненулевая инвариантная симметричная билинейная форма: усредняем произвольное скалярное произведение, единственность следует из теоремы о приведении пары симметричных билинейных форм к диагональному виду.