[x,y]=meshgrid(0:.01:1000,0:.01:1000);
??? Maximum variable size allowed by the program is exceeded.
А чего ж другого Вы ожидали?... Функция meshgrid возвращает пару
двумерных массивов. В Вашем случае: сто тысяч на сто тысяч -- десять миллиардов элементов; это около ста шестидесяти гигабайт. Естественно, что Matlab обижается.
>> Z=X/(X+Y);
Warning: Matrix is close to singular or badly scaled.
Тоже вполне очевидная реакция. Вы пытаетесь разделить матрицу на матрицу по правилам линейной алгебры, в то время как должно стоять
поэлементное деление (т.е. с точкой).