А почему контр-пример начиная с 5-ти угольника?
Ведь если гипотеза (о совпадении стороны с одной из прямых) неверна, то есть
точки (ровно по одной на каждой стороне прямоугольника), такие что при малых поворотах площадь возрастает, т.е. если конт-пример есть, что в нем не более 4 точек.
Очевидно, что с 3-мя точками все в порядке.
Если точек 4, то можно считать, что они расположены на сторонах квадрата
на расстояниях
от соответствующих вершин.
Тогда площадь прямоугольника при небольших сдвигах будет
где
,
, т.е. очевидно не может быть локальным минимумом
В случае с дугами все сложнее.
Для каждого направления есть пара дуг (которых касаются опорные прямые).
При фиксированных дугах для двух перпендикулярных направлений, полощадь прамоугольника будет
т.е. необходимо проверять помимо всех "критических" направлений (когда происходит перестройка с одной дуги на другую, т.е. точка касания с опорной прямой совпадает с одной из вершин) но еще и на каждом интервале между критическими искать минимум (многочлена второй степени от
и
) проверять его.