Если функция имеет вид
, то уравнение касательной к графику этой функции в точке
имеет вид
. Подставьте Вашу функцию и получите общий вид касательной.
Далее, чтобы найти площадь трапеции, возьмите полусумму длин левой и правой сторон (которые равны
и
), умноженную на длину основания (она в данном случае равна 1). Заметьте, что при максимально возможном значении
левая сторона получается нулевой, т.е. трапеция вырождается в треугольник.
Полученную функцию от одного переменного t нужно максимизировать стандартным способом. А интегралы в данной задаче не нужны.