Вы не привели выражение для функции распределения. Вы привели значок

. От того какой смысл вкладывается в этот значок зависит ответ. Неполную гамма-функцию определяют по-разному. В Maple неполная гамма-функция это
GAMMA(a,z) = int( exp(-t)*t^(a-1), t=z..infinity).
Вот теперь и поясните откуда
fsolve(
) Вам
--mS-- уже и так подсказала где ошибку искать.
-- Sun 16.11.2014 21:58:44 --Если Вам несложно напишите, пожалуйста, как выглядит функция распределения на Maple, я немного запутался
Если разговор идет именно о Maple, то непонятно зачем обязательно функция распределения: нужна указанная в условии вероятность, а это соответствующий интеграл от плотности. Конечно, можно и функцию распределения записать, см. подсказку
--mS--. Можно и хи-квадрат распределение использовать, см. пакет Statistics.