Но есть ощущение, что принципиально ничего не должно измениться. Экстремальное свойство ортогональной составляющей я доказываю в абстрактном евклидовом пространстве,

со стандартным скалярным произведением --- только один из возможных примеров.
Да это-то само собой. Проблема в том, что непонятно, как из этих абстрактных соображений получить наиболее естественным образом те же (формально) правила для элементов матрицы и правой части. Давайте я напишу, как сам рассказываю, а Вы меня покритикуете.
Пусть

-- скалярное произведение общего вида (под скобками без индекса понимается стандартное скалярное произведение) и, соответственно,

. Псевдорешение относительно этой нормы определяется, естественно, системой того же вида, что и раньше, т.е.

, только вместо просто эрмитово сопряженной матрицы

теперь следует использовать матрицу

, сопряжённую к

относительно нового скалярного произведения:

Т.е. решать предстоит систему

или, что эквивалентно,

. Поскольку матрицы перемножаются по правилу "строка на столбец", для элементов матрицы

и столбца

имеем

(здесь

-- это

-я строка матрицы

, т.е. эрмитово сопряжённый

-й столбец матрицы

и

-- это

-й столбец матрицы

) и, аналогично,

Вот такая тягомотина. Что здесь лишнее, или где лучше пойти в другую сторону, или на чём вообще можно сэкономить?...