Ваше решение неправильно. Если после аффинного преобразования прямая переходит сама в себя, то отсюда никак не следует, что все её точки неподвижны.
Например простой сдвиг по направляющему вектору прямой. Или сжатие по этому же вектору.
Задача простая, поэтому лучше решить самому. Докажите такое утверждение: "Если три точки A,B,C лежат на одной прямой, то число

- инвариант аффинного преобразования".