Но окружности точно переходят в окружности (если прямые тоже к ним относить). Меня больше именно они интересуют, фиг с остальными кониками.
А вот с остальными кониками, кроме окружностей и прямых, всё как-то странно..
Так "фиг с остальными кониками", или всё же не фиг?
Насколько я помню, при инверсии параболы получается циссоида Диоклеса, кривая 3-го порядка (детали требуемого расположения параболы не помню, но, с учётом случившегося понижения порядка
парабола должна проходить через центр инверсии).
При инверсии канонической гиперболы получаем лемнискату. При инверсии канонической равнобочной гиперболы --- лемнискату Бернулли (ой, сколько понаписал, не сверившись со справочниками! не наколоть(ся) бы... память-то не того...). Вариантов с эллипсами в голове нет. Всё это, естественно, сильно зависит от взаимного расположения инвертируемой кривой и окружности.
Что касается инверсии прямой/окружности относительно другой прямой/окружности, то формулку для результата я когда-то вывел, но сейчас недосуг по чердакам лазить... Будет кому интересно --- в выходные полазю.