В цитате "vanishing near origin", a у меня - "at the origin". Таким образом ошибки нет, за исключением последнего сообщения: ни один оператор не является расширением другого.
Да, я теперь тоже понял. Если "near origin", то это не просто 

, но еще и 

, так что 

 уже не нужно.
-- 23.09.2012, 16:07 --solved:
ни один оператор не является расширением другого.
Является. Один оператор определен на множестве функций, равных нулю в окрестности нуля и со второй производной, попадающей в 

. Второй оператор определен на более широком множестве (без условия в нуле). На области определения первого они совпадают.
Собственно, иначе и быть не может, поскольку оператор 

 плотно определен и симметричен (на области его определения 

), а тогда сопряженный оператор обязательно является его расширением.
-- 23.09.2012, 16:21 --откуда это? Ведь 

 по определению сопряженного оператора
Это не совсем аккуратная запись. Здесь под 

 имеется в виду формально сопряженное дифференциальное выражение (в данном случае тоже 

).