Удалось получить следующее:
Используем то, что вписанный угол равен половине центрального угла, опирающегося на ту же дугу:

Тогда

Максимум, действительно, достигается при

, и, соответственно, максимальная площадь получается равной

.
Остался лишь вопрос, как именно следует понимать одну из подсказок, приведенную выше. Конкретно, что

.