А еще такая функция должна быть минимум дважды дифференцируемой.
Генерально, я хочу доказать положительную определенность оператора
Вот это уже по существу. Этот оператор имеет чисто дискретный спектр, состоящий из собственных чисел
при соотв. собственных функциях
. Интеграл, которого Вы хотите, есть квадратичная форма этого оператора и, следовательно, не меньше
, т.е. наименьшего собственного числа на квадрат нормы функции. Отсюда и выводы.
И, кстати, двукратная дифференцируемость не обязательна: квадратичная форма определена на всех функциях, имеющих квадратично интегрируемую первую (хотя бы обобщённую) производную, и для оценок этого вполне достаточно.