Используя понятие дельта-функции Дирака (такая формулировка привычна физикам и другим прикладникам), задачу на функцию Грина в вашем случае можно сформулировать так: найти функцию двух переменных

,
![$x,x_0\in [0;1]$ $x,x_0\in [0;1]$](https://dxdy-02.korotkov.co.uk/f/d/a/9/da946fabcfd269759d7881a5f537eb9482.png)
, удовлетворяющую следующим условиям:


.
Следствие этого определения, или, если Вам не нравиться использование дельта-функции - эквивалентная формулировка:

.
Другими словами: функция Грина

при

удовлетворяет однородному уравнению четвёртого порядка

, граничным условиям по переменной

(их у Вас 4 штуки), условиям непрерывности самой функции

и её первой и второй производной по переменной

в точке

, и условию единичного скачка третьей производной в этой точке.
Из первого уравнения, действительно следует, что

полином третьей степени по

, как Вы и написали. Только вот коэффициенты этого полинома при

и

не обязательно совпадают! Поэтому план дальнейших действий таков:
1. Пишите
два полинома третьей степени - один для случая

, а другой для случая

. Возникают 8 неизвестных. (Этим Вы удовлетворяете первому уравнению).
2. Граничные условия при

дают три условия на коэффициенты "левого" полинома, а граничное условие при

- одно условие на коэффициенты "правого" полинома. Получаете

3. Условие на скачок третьей производной

выражает

через

, а условия на непрерывность

,

и

в этой точке позволяют выразить коэффициенты

через

.
Окончательный результат можно записать в компактной форме, если использовать тета-функцию Хевисайда

или в стандартной форме
