А в чём проблема, что Вы на этом месте застряли?
Можно ли что-то упростить в итоговом выражении или лучше ничего больше не трогать?
Вот такой дальнейший алгоритм задан:
1.1. Первая производная.
1.2. Найти точки, в которых возможно изменение знака функции

.
1.3. Определить расположение определенных знаков.
2.1. Вторая производная.
2.2. Найти точки, в которых возможно изменение знака функции

.
2.3. Определить расположение определенных знаков.
Не очень понял нахождение данных точек. Вот что у меня получилось:
Точки:

,

.
Знаки:
