Например, у вас есть инверсия

относительно окружности с центром

и радиусом 1. Подставляем в уравнение прямой

:

и дальше надо приводить уравнение кривой второго порядка к каноническому виду.
-- Сб янв 28, 2017 00:38:49 --Ой, я тут криво как-то написал, сейчас исправлю.
UPD: всё.
-- Сб янв 28, 2017 00:40:48 --Нет, до сих пор ерунда, формула инверсии неправильная. Но идею вы поняли(?)
-- Сб янв 28, 2017 00:43:42 --(Правильная формула данной инверсии, разумеется,

, что в координатах есть

.)