Если функция имеет вид

, то уравнение касательной к графику этой функции в точке

имеет вид

. Подставьте Вашу функцию и получите общий вид касательной.
Далее, чтобы найти площадь трапеции, возьмите полусумму длин левой и правой сторон (которые равны

и

), умноженную на длину основания (она в данном случае равна 1). Заметьте, что при максимально возможном значении

левая сторона получается нулевой, т.е. трапеция вырождается в треугольник.
Полученную функцию от одного переменного t нужно максимизировать стандартным способом. А интегралы в данной задаче не нужны.