Извиняюсь, NLPSolve, это команда, а не пакет.
KStaro
Почитал еще раз условия задачи. Дана функция
при
,
. Найти
На мой взгляд для получения символьного решения пакет Optimization, и в частности, команда NLPSolve, не помогут, по одной простой причине, что алгоритмы там реализованы численные и надо ставить конкретные значения a,b,c.
Можно составить функцию вида
, где
Вот для этой задачи можно попытаться использовать классические методы поиска максимума, но надо следить за видом целевой функции в зависимости от ограничений.