Если производную вычислить тяжело, то её можно аппроксимировать конечными разностями. Только это тоже "несовременно" в том смысле, что применяется давно. Была книга Уайлда - "Методы поиска экстремума". Только ей - лет 40. В книге Ильина - Силаев "Численные методы для физиков теоретиков" рассматриваются метод амёбы и метод Пауэлла (тех же лет, если не старше). По-моему, в Матлабе тоже запрограммирован метод Нелдера-Мида. Если размерность задачи большая, то эти методы работают медленно, и лучше аппроксимировать производную конечными разностями.
Добавлено спустя 15 минут 57 секунд:
Конкретно, в Матлабе функция fminsearch использует метод Нелдера-Мида, функция fminunc использует конечно-разностную аппроксимацию производных. Можете сравнить их эффективность для Вашей задачи.
|