Произведение подстановок, действительно, можно трактовать по-разному. В классическом учебнике Куроша "Высшая алгебра" (как и в указанном Вами руководстве METDOC) определяется, что в произведении
вначале выполняется
, потом
. То есть вначале первая в записи, потом вторая.
В вашем втором руководстве, наоборот, вначале выполняется вторая в записи подстановка, потом первая. Конечно, было бы естественней в этом случае назвать подстановку
первой, а
второй, и не было бы никакого недоразумения.
На самом деле композиции преобразований записываются подчас в различных формах (нотациях), но обычно в тексте всегда оговаривается в каких именно.