1) Немного неправильно выписано приращение. Было 

, а потом стало 

, что, конечно, неверно. 
Чтобы преобразовать это выражение, надо понять, каким условиям удовлетворяет функция 

 на концах промежутка 
![$[0;1]$ $[0;1]$](https://dxdy-03.korotkov.co.uk/f/2/1/a/21ad730ee7df0b97abd700cb0f8426e682.png)
. А понять это можно так: поскольку мы пытаемся доказать, что 

 является точкой минимума, то надо доказать, что 

 для любой другой функции 

, удовлетворяющей краевым условиям, указанным в задаче. Но, для удобства доказательства, 

 можно представить в виде 

, где 

. Теперь подставляем, 

 (т.к. 

 и 

 удовлетворяют соответствующему условию в точке 1) и ещё можно получить два значения функции 

. Этими значениями надо воспользоваться при интегрировании по частям.
2)Пока всё верно. Теперь тоже надо проверять, является ли полученное 

 точкой минимума или максимума или это просто экстремаль (т.е. точка, в которой производная функционала равна 0).