Итак, критических точек 5, две из них близко достаточно к начальным условиям. С другой стороны около начальной точки градиент хороший - и так где-то до 0.3, но при прохождении около точки

- начинаются неприятности в основном сначала в

и

- ну а потом они конечно

подхватывают.
Собственно, откуда эффект - система представима в виде

Смотрим на скобки во втором и 3м уравнениях. Они возрастают по

. Изначально векторное поле по

около

, а

медленно убывает. Поэтому рост

перекрывает убывание

в третьей скобке, а высокое значение

перебивает убывание

во второй скобке. И вот когда

минует значение около

- тут

начинает медленно убывать, а

и

теперь в квадратичной положительной связке примерное

Т.к.

в начале такого роста больше

, то

убывает - но т.к. рост

становится теперь быстрее, через некоторое время и

начинает возрастать. Через некоторое время они достигают тех значений, при которых большие числа

и

не играют роли - ну и собственно дальше все ясно.
Проверьте (а лучше выложите сюда) постановку задачи. Может ошибку сделали пока вычисляли?
-- Пт фев 04, 2011 17:55:09 --P.s. на точное описание не претендую - но по-моему, мысль достаточно ясна. Точно можно сделать - оценив рост

на каждом отдельном интервале - только не знаю, есть ли смысл. Другое дело - что Вам нужно от этой системы, почему именно на
![$[0,1]$ $[0,1]$](https://dxdy-03.korotkov.co.uk/f/a/c/f/acf5ce819219b95070be2dbeb8a671e982.png)
интегрировать?
-- Пт фев 04, 2011 17:56:29 --И последнее - для нелинейных систем может данные методы неустойчивы? может там шаг какой специальный надо брать?