Используя понятие дельта-функции Дирака (такая формулировка привычна физикам и другим прикладникам), задачу на функцию Грина в вашем случае можно сформулировать так: найти функцию двух переменных 

,  
![$x,x_0\in [0;1]$ $x,x_0\in [0;1]$](https://dxdy-02.korotkov.co.uk/f/d/a/9/da946fabcfd269759d7881a5f537eb9482.png)
, удовлетворяющую следующим условиям:


.
Следствие этого определения, или, если Вам не нравиться использование дельта-функции - эквивалентная формулировка:
 
 
 
.
Другими словами: функция Грина 

 при 

 удовлетворяет однородному уравнению четвёртого порядка 

, граничным условиям по переменной 

 (их у Вас 4 штуки), условиям непрерывности самой функции 

  и её первой и второй производной по переменной 

 в точке 

, и условию единичного скачка третьей производной в этой точке.
Из первого уравнения, действительно следует, что  

  полином третьей степени по 

, как Вы и написали. Только вот коэффициенты этого полинома при 

 и 

 не обязательно совпадают! Поэтому план дальнейших действий таков:
1. Пишите 
два  полинома третьей степени - один для случая 

, а другой для случая 

. Возникают 8  неизвестных. (Этим Вы удовлетворяете первому уравнению).
2. Граничные условия при 

 дают три условия на коэффициенты "левого" полинома, а  граничное условие при 

 - одно условие на коэффициенты "правого" полинома. Получаете

3. Условие на скачок третьей производной 

  выражает 

 через 

, а условия на непрерывность 

, 

 и 

 в этой точке позволяют выразить коэффициенты 

 через 

. 
Окончательный результат можно записать в компактной форме, если использовать тета-функцию Хевисайда

или в стандартной форме
