А дальше вы берём поляру
![$p = (0, X, Y)$ $p = (0, X, Y)$](https://dxdy-04.korotkov.co.uk/f/f/e/8/fe8f296a79bdc4caa0be8a567b735a5282.png)
к прямой, относительно которой сгибаете (где
![$X^2 + Y^2 = R^2$ $X^2 + Y^2 = R^2$](https://dxdy-03.korotkov.co.uk/f/2/c/5/2c52c4db704f4a4bca4995ab2d52d08c82.png)
), отражение задаётся формулой
![$u \mapsto u - 2 p (x \cdot p)$ $u \mapsto u - 2 p (x \cdot p)$](https://dxdy-01.korotkov.co.uk/f/c/1/5/c1548d28e75eef4424100706dca848aa82.png)
. Можете применять его к вершинам, можете сразу к полярам сторон. Только в случае со сторонами надо следить за ориентацией, ну и понимать, какие именно стороны ограничивают пересечение (там треугольник или пятиугольник в общем положении, кажется), а также в каком порядке.
Пока не очень понял, и, наверное, с полярами.
"Перегибать" сферический прямоугольник мне нужно (по аналогии с плоским случаем) через его "центр" (точку пересечения диагоналей - совпадает ли с центром?) под каким-то углом
![$\alpha$ $\alpha$](https://dxdy-01.korotkov.co.uk/f/c/7/4/c745b9b57c145ec5577b82542b2df54682.png)
. Могли бы, пожалуйста, пояснить детальнее, как задается отражение, как применить для нахождения вершин, поляр?
Вот для плоского прямоугольника понятно: находим зависимость площади пересечения от угла перегиба. Далее исследуем функцию на минимум с учетом геометрии пересечения (пятиугольник, треугольник).
А нет ли какого-то отображения, чтобы свести решение к плоскому случаю, а потом вернуться к исходному?