Пусть радиус все-таки для простоты будет 1.
Пусть координаты угла первого прямоугольника (левого и самого высокого), который упирается в окружность, равны
, угла второго прямоугольника
, а угла третьего
. При этом
.
Площадь фигуры будет равна
.
Используя дифференциальное исчисление, можно получить условия экстремума:
Но те же уравнения можно получить и без дифференциального исчисления. Представьте, что фигура наполнена газом под давлением. Газ стремится максимально расшириться, но специальная конструкция запрещает границе фигуры принимать произвольную форму, а только в пределах условия задачи. Углы — это материальные точки, на которые действуют силы со стороны смежных ей сторон прямоугольника, на которые давит газ, и реакция твердой окружности. Так вот, выписанные уравнения можно получить как условия равенства нулю момента силы, действующего на каждую из трех угловых материальных точек. Уравнения это не упростит, но условие «обойтись без всяких дифференциальных исчислений» будет выполнено.