И почему же при

площадь пятиугольника минимальна?
По соображениям симметрии. Правда, это не формальное доказательство, но зато очевидное: если довернуть ещё на пи на восемь (т.е. до треугольника) как влево, так и вправо, то площадь выступающих участков уменьшатся до нуля. А наличие на этом участке хотя бы двух максимумов (и, соотв, одного минимума) выглядит неправдоподобным.
Кстати, тогда из соображений непрерывности следует, что и для чуть-чуть неквадратных полотенец оптимальным тоже будет пятиугольник. И только для достаточно длинных он превратится в треугольник.