В качестве решения подставляю в уравнение прямой

и

, чтобы получить образ прямой в координатах

и

.
Так нельзя, потому что

— это координаты точки-прообраза, а

— координаты точки-образа. Мы не можем в качестве

подставлять

, это разные величины.
У Вас есть уравнение, в которое входят

. Вам надо получить уравнение, в которое входят

. В данном случае это совсем просто. Используя только уравнения

и

, избавьтесь от

.