Riga:
Постараюсь объяснить, что настораживает меня в Вашей задаче. Рассуждения, которые я сейчас приведу носят чисто эвристический характер и не претендуют на каку-либо строгость.
Поскольку функции

малы при больших

, я выброшу нелинейность из правой части уравнений, а полученные укороченные уравнения проинтегрирую с учетом начальных условий (хотя можно и оставить произвольные постоянные интегрирования):

(*)

(**)
Легко сообразить, что искомое решение должно удовлетворять при всех

равенству:

где

-- константа зависящая от нач. усл.
поскольку функции

стремятся к нулю имеем при больших

:

;
Если мы теперь подставим эту асимптотическую формулу в уравнения (*) (**) то увидим, что решения

с заданными краевыми условиями единственны и неустойчивы (по крайней мере в обязательно в одном из двух уравнений). Это возможно объясняет трудности с которыми Вы столкнулись при численном моделировании, (если конечно нужные решения вообще есть.). Не знаю каково происхождение Вашей задачи, но физики, на сколько мне известно, в таких случаях начинают думать об изменении модели.
Добавлено спустя 2 часа 2 минуты 2 секунды:
V.V. писал(а):
После того, как мы выразили и подставили

, мы получили (надеюсь, я не ошибся в вычислениях) систему

,

а что если на искомом решении краевой задачи знаменатели в правых частях обращаются в нуль?
