А как Вы пытались и что получилось?
От балды можно посоветовать:
1. Воспользоваться неравенством
, получить какую-то область и перебрать ее.
2. Или, например, если
невелики, выполнить подстановки
. Или даже заменить
на
, затем перебрать все варианты
- получится множество систем обычных линейных уравнений.
3. Можно решить третье уравнение в общем виде, подставить решение в первые 2 уравнения и попробовать упростить.
Надо поперебирать методы, м.б. покомбинировать их. Можно выбрать наугад задачу такого типа побольше и попытаться ее решить руками.
Насчет жадного алгоритма не очень понятно - решений здесь скорее всего мало, хотя бы одно найти. А целевой функции здесь нет.