Ну, и если она выпуклая, то, поскольку нужен алгоритм, я бы его составил простым перебором, а именно, перебирая точки кривой с некоторым шажком
![$\Delta s$ $\Delta s$](https://dxdy-03.korotkov.co.uk/f/e/6/1/e6133484a7d7c624b05dc77c20b5062782.png)
.
Кривая задана, например, параметрическим уравнением
![$P(t)=(x(t), y(t)), \quad 0\le t\le T$ $P(t)=(x(t), y(t)), \quad 0\le t\le T$](https://dxdy-04.korotkov.co.uk/f/7/7/7/77737770d115810220445be0daaacd3682.png)
(или пусть даже дискретно-точечной тобличкой). В каждую точку
![$P_0(t)$ $P_0(t)$](https://dxdy-02.korotkov.co.uk/f/d/a/7/da7df854bc7ea2aaca63eb17efad779182.png)
помещаем вершину
![$A$ $A$](https://dxdy-02.korotkov.co.uk/f/5/3/d/53d147e7f3fe6e47ee05b88b166bd3f682.png)
прямоугольника
![$ABCD$ $ABCD$](https://dxdy-04.korotkov.co.uk/f/3/f/9/3f92fe71fa8828a73d4595ea5d15c18882.png)
, вычисляем точку
![$P_1(t)$ $P_1(t)$](https://dxdy-01.korotkov.co.uk/f/8/e/d/8ed588f783cff2b1a56b76e4978b631e82.png)
, куда встанет вершина
![$B$ $B$](https://dxdy-03.korotkov.co.uk/f/6/1/e/61e84f854bc6258d4108d08d4c4a085282.png)
, определяем положения точек
![$C$ $C$](https://dxdy-02.korotkov.co.uk/f/9/b/3/9b325b9e31e85137d1de765f43c0f8bc82.png)
и
![$D$ $D$](https://dxdy-04.korotkov.co.uk/f/7/8/e/78ec2b7008296ce0561cf83393cb746d82.png)
(справа или слева от отрезка
![$\vec{AB}$ $\vec{AB}$](https://dxdy-04.korotkov.co.uk/f/b/4/5/b451e71c26b73844983728460f857cc582.png)
, в зависимости от направления обхода), и, наконец, определяем --- попали ли эти две точки внутрь фигуры.
Повторяем цикл до первой удачи.
Это тупое решение на скорую руку, солнце и суббота мешают и гонят подальше от ЭВМ...