Вот тут и есть основная проблема. Вразумительно изложить свою мысль я могу только на примере вписанного четырехугольника. Если это квадрат, то все синусы принимают максимальное значение. Если уменьшить или увеличить хотя бы один из углов

, то его синус уменьшится, а заодно уменьшится синус по меньшей мере одного из оставшихся 3 углов (так как их общая сумма составляет

), следовательно, любой другой четырехугольник обладает меньшей площадью.
Что касается n-угольника (

), то я рассуждаю примерно так. Пусть n-угольник правильный. Тогда, немного увеличив один из углов

, мы, конечно, увеличим и

, но зато одному или нескольким другим углам

придется уменьшиться (так как их общая сумма составляет

). А поскольку производная функции

слева от точки

больше, чем справа, это заметнее отразится на сумме синусов и уменьшит ее. Следовательно, любой другой n-угольник обладает меньшей площадью.