(Ну погорячился, да)
UPD. Впрочем добавлю, в качестве извинений: а почему не устраивает несложная функция трансформации радиуса в зависимости от угла в полярной системе координат? Совмещаем круг и квадрат, вводим полярную систему координат в центре круга, тогда достаточно иметь функцию

. Функцию совсем несложно найти, просто из отношений расстояния вдоль радиуса от центра до окружности и до квадрата, достаточно школьной планиметрии. Кажется даже никаких особых точек или линий не будет, всё гладкое и непрерывное и взаимооднозначное.