А вот с
(
) почти не работал.
А я вообще не работал. Поэтому сразу извинюсь за наглость и прошу не рассматривать мою писанину за истину. Я скорее присоединяюсь к вашему вопросу. В любом гильбертовом пространстве градиент от квадрата нормы вычисляется элементарно и вы для пространства
его написали. Но ваше соболевское пространство не является гильбертовым и элемент с нулевой нормой в нём не единственен. Поэтому я думаю, что и градиент в вашем пространстве не единственен. Думаю, что он определён с точностью до постоянной функции и один из возможных градиентов у вас выписан. Может быть в вашем пространстве можно было перейти к некоторому фактор-пространству и тогда оно бы было гильбертовым. Но это всего лишь мои гипотезы.