...проблема в том, что нет параметров goal, weight и вектор-функция [p1; p2] задана неявно через систему написанную выше.
1.
fgoalattain - это несколько другая задача. Но можно попробовать поэкспериментировать - задавать большие (больше ожидаемого максимума) значения
goal.
2. Насчет
weight:
"хода нет - ходи с бубей" задайте вектор из единиц.
3. Вычислять неявную функцию можно, например, функцией
fsolve.