Только в точках не
, а
(в пределах интегрирования явная опечатка). И лучше бы не дифференцировать, а сразу увидеть, что
-- это функция Грина для оператора
с соответствующими граничными условиями (ну или
-- лень разбираться в нюансах, на ответ всё равно не повлияет). Но для этого нужно знать, что такое функция Грина.
Странная задача. Указание на спектральный радиус явно намекает на то, что ядро надо действительно итерировать, но это такая морока. К тому же не очень понятно, как там потом сможет вылезти ответ
.