Дмитрий Хованский, прежде всего отмечу, что, на мой довольно невежественный взгляд, каждое уравнение с запаздыванием специфично, т. е. для его исследования необходимы новые подходы. Примером в подтверждение этого факта может служить уравнение, которым занимаемся я и мой научный руководитель:
dy(x)/dx=ay(x)+by(x-r)+cdy(x-r)/dx+py(qx)+hdy(qx)/dx+f(y(x),y(x-r),dy(x-r)/dx,y(qx),dy(qx)/dx),
где f=о(...) - всего лишь малая в окрестности нуля неоднородность. Частные случаи этого уравнения качественно отличаются друг от друга, особенно ярким примером этого является упомянутая выше работа De Bruijn N. G, возможно, это наиболее сложный случай, хотя внешне наиболее короткий. Я глубоко сомневаюсь, что наша литература серьёзно поможет Вам в Вашей задаче:
1. Kato T., McLeod J. B. The functional-differential equation dy(x)/dx=ay(qx)+by(x) // Bull. Amer. Math. Soc. – 1971. – 77. – P. 891-937.
2. De Bruijn N. G. The difference-differential equation dF(x)/dx=exp(ax+b)F(x-1). I, II // Nederl. Akad. Wetensch. Proc. Ser. A 56=Indag. Math. 15 (1953), 449-464. MR 15, 629.
3. Frederickson P. O. Series solutions for certain functional-differential equations // Lect. Notes Math. – 1971. – 243. – P. 249-254.
4. Frederickson P. O. Global solutions to certain nonlinear functional differential equations // J. Math. Anal. Appl. – 1971. – 33. – P. 355-358.
5. Пелюх Г. П., Шарковский А. Н. Введение в теорию функциональных уравнений. – Киев: Наук. думка, 1974. – 192 с.
6. Дерфель Г. А. Вероятностный метод исследования одного класса дифференциально-функциональных уравнений // Укр. мат. журн. – 1989. – 41, № 10. – С. 1483-1491.
7. Полищук В. М., Шарковский А. Н. Представление решений линейных дифференциально-разностных уравнений нейтрального типа // Дифференц. уравне-ния. – 1973. – 9, №9. – С. 1627-1645.
8.
9. Гребенщиков Б. Г., Рожков В. И. Асимптотическое поведение решения одной стационарной системы с запаздыванием // Дифференц. уравнения. – 1993. – 29, №5. – С. 751-758.
10. Гребенщиков Б. Г., Ложников А. Б. Стабилизация системы, содержащей по-стоянное и линейное запаздывания // Дифференц. уравнения. – 2004. – 40, №12. – С. 1587-1595.
11. Гребенщиков Б. Г. Об асимптотических свойствах некоторых систем с двумя запаздываниями // Известия ВУЗ-ов, математика. – 2006. – 528, № 5. – С. 27-37.
12.
13. Gumovski I., Mira C. Recurrences and discrete dynamic systems // Lect. Notes Math. – 1980. – 809. – 267 p.
14. Хейл Дж. Теория функционально-дифференциальных уравнений. – М.: Мир, 1984. – 421 с.
Отмечу также уже упоминавшуюся Вами
Р. Беллман и К. Кук "Дифференциально-разностные уравнения".
Многие из них я не читал.
Даю ссылку на работу De Bruijn N. G.
http://library.tue.nl/csp/dare/DeBruijn.csp?id=10498
Может, тут
http://w3.tue.nl/en/services/library/ Вы найдёте ещё что-то интересное.
Добавлю сюда работу близкую к работе De Bruijn N. G., написанную его учеником
http://oametuep.uci.ru.nl/metue/pk_apa_ ... rl_id=3863
Наши статьи я перешлю Вам в личном сообщении.
У меня к Вам тоже есть вопрос, не могли бы Вы помочь мне связаться с Гребенщиковым Борисом Григорьевичем, Уральский университет? В его работах, на мой взгляд, есть много ключевых идей по моей тематике, и они могли бы стать моей путеводной звездой. Но я не хотел бы быть ему представленным, иначе он быстро уйдёт вперёд, а я буду учиться, учиться... Я попробую общаться анонимно. Пока мы не ровня.
Ваша задача доволно необычная, условие разрешимости краевой задачи в терминах сопряжённого уравнения и краевых функций, я ещё понимаю. Но Вы фиксируете краевые функции, подразумевая, видимо, разрешимость задачи при любых краевых условиях, что, как мне кажется, не совсем верно.
В заключение ещё раз подчеркну: скорее всего, Ваша задача потребует качественно иных подходов. Может, стоит попробовать совет
finanzmasterа и обратиться к самим мэтрам, тщательно обдумав вопросы?
.
(см. также 
