Из системы легко вытекает, что
там будет состоять из кусочков синусоиды и линейной функции. Проблема лишь в том, сколько таких кусочков и в каких точках происходит переключение.
Лучше, наверное, двигаться в следующем направлении. Ваша система имеет вид
Далее можно понизить порядок ...
Это формальный подход. А неформально, можно пытаться разобраться с теми самыми кусочками. Для начала можно найти безусловный минимум функционала. Посмотреть, на каких функциях он достигается. Что меняется, если ввести условие
. Ну и попробовать угадать, как должно выглядеть решение. Тогда, скорее всего, будет проще и с формальным диффуром.