Spook писал(а):
Для меня это какие-то странные определения

да и с обобщенными функциями сейчас в сессию разбираться времени нет.
. . . . . . . . . . . .
Вроде подходит, но смущает то, что в интегральном уравнении отсутствуе

, а она там определенно должна быть.
У Вас -- именно задача Штурма-Лиувилля. Т.е. не что иное, как задача на собственные числа некоторого самосопряженного дифференциального оператора, область определения которого задаётся, в частности, граничными условиями.
Формулировка задачи -- неграмотна: речь не об интегральном уравнении, а о переходу к задаче на собственные числа (точнее, характеристические) для интегрального оператора, являющегося обратным к исходному дифференциальному.
Функция Грина традиционно определяется по-разному. С моей точки зрения, наиболее идейный подход -- это что она представляет собой ядро того самого обратного интегрального оператора.
Другой подход (не менее традиционный): функция Грина -- это отклик краевой задачи на произвольную импульсную функцию. Т.е. решение краевой задачи (с тем же дифференциальным оператором

и теми же граничными условиями) вида

.
Эквивалентность (на нестрогом уровне) обоих подходов довольно очевидна даже без знания теории обобщённых функций, достаточно "наивного" определения дельта-функции: мол, она равна нулю везде, кроме нуля, "равна бесконечности" в нуле, а вот интеграл от неё по любой окрестности нуля равен единице.