Наибольшее значение функция может иметь либо во внутренней точке области, либо на границе.
В первом случае это локальный экстремум, но проверять на экстремум не обязательно.
Во втором случае неравенства превращаются в равенства, а задача - в задачу на условный экстремум. Только надо рассматривать все равенства по одному. А потом по два. И по три.
Собственно, тот же метод можно применить и в первой задаче. Только все первые этапы не дадут критических точек. Останутся только случаи трех неравенств (точки, вершины многогранника).
Кстати, там, похоже, опечатка:
Последнее неравенство следует из предпоследнего.