Можно ограничиться красивым четырехугольником, вписанным в окружность со сторонами
Хорошая идея, но нет гарантии что такой четырехугольник будет иметь минимальную площадь. Кстати решения для этой задачи опубликованы:
http://www.primepuzzles.net/problems/prob_064.htmДля первой задачи минимальный четырехугольник имеет площадь 378. Следущая задача (как я понял) будет про целый пятиугольник. Я нашел четырехугольник с простыми сторонами и диагоналями, но он невыпуклый и с нецелой площадью:
A=(0,0), B=(-1051,0), C=(-625.0965746907707,1231.4281433806302), D=(-590.8092293054234,50.925971444162)
тогда AB=1051, BC=1303, CD=1181, AD=593, AC=1381, BD=463 и площадь=299262.75833496224.
Остаются два вопроса:
Вопрос 1: есть ли выпуклый четырехугольник с простыми сторонами и диагоналями?
Вопрос 2: есть ли выпуклый четырехугольник с простыми сторонами и диагоналями, и целой площадью?