Матрично-векторное равенство. Помогите доказать

[terricola]

Доброго времени суток. У меня никак не получается доказать следующее матрично-векторное равенство.
Пусть имеется вектор $\mathbf w_i = \left(\sum\limits_{j=1}^{N}{\gamma_j\mathbf p_j\mathbf p_j^H } + \mathbf I\right)^{-1}\mathbf p_i$ и вектор $\tilde{\mathbf w}_i = \left(\sum\limits_{j=1\atop j \neq i}^{N}{\gamma_j\mathbf p_j\mathbf p_j^H } + \mathbf I\right)^{-1}\mathbf p_i$. Нужно показать, что $\dfrac{\mathbf w_i}{\parallel \mathbf w_i \parallel_2} = \dfrac{\tilde{\mathbf w}_i}{\parallel \tilde{\mathbf w}_i \parallel_2}$. Помогите, пожалуйста.
Для большей наглядности, я включил ещё код на MATLABе

N = 4;

P = randn(N) + 1i*randn(N);
P = bsxfun(@rdivide, P, sqrt(sum(abs(P).^2)));  % Normalize each column of P

g = abs(randn(N,1));

w1 = (P*diag(g)*P' + eye(N)) \ P(:,end);
w1 = w1 / norm(w1)

w2 = (P(:,1:N-1)*diag(g(1:N-1))*P(:,1:N-1)' + eye(N)) \ P(:,end);
w2 = w2 / norm(w2)  % w2 is equal to w1! How come?

[terricola]

Я попытался доказать следующим образом. Пусть диагональное представление матрицы $\sum\limits_{j=1}^N\gamma_j\mathbf p_j\mathbf p_j^H$ выглядит так $\sum\limits_{j=1}^N\gamma_j\mathbf p_j\mathbf p_j^H = \mathbf S\mathbf \Lambda \mathbf S^H$, где $\mathbf S = \left[\mathbf s_1 \mathbf s_2 ... \mathbf s_N\right]$ - унитарная матрица, а $\mathbf \Lambda = \operatorname{diag}(\lambda_1 \lambda_2 ... \lambda_N)$ - диагональная матрица. Тогда для вектора $\mathbf w_i$ имеем $\mathbf w_i = \left(\sum\limits_{j=1}^{N}\gamma_j\mathbf p_j \mathbf p_j^H + \mathbf I\right)^{-1}\mathbf p_i$ = \left(\mathbf S\mathbf \Lambda \mathbf S^H + \mathbf I\right)^{-1}\mathbf p_i$ = $\mathbf S\left(\mathbf \Lambda + \mathbf I\right)^{-1}\mathbf S^H\mathbf p_i$. Если ввести обозначение $\mathbf S^H\mathbf p_i = \mathbf \beta_i = \left[\beta_{i1}\beta_{i2}...\beta_{iN}\right]^T$, то вектор $\mathbf w_i$ можно записать как: $\mathbf w_i = \mathbf S\left(\mathbf \Lambda + \mathbf I\right)^{-1}\mathbf \beta_i = \sum\limits_{k = 1}^{N}\dfrac{\beta_{ik}}{\lambda_k + 1}\mathbf s_k$. Таким образом, $\parallel\mathbf w_i\parallel_2 = \sqrt{\sum\limits_{k=1}^N\dfrac{|\beta_{ik}|^2}{(\lambda_k + 1)^2}}$. Для матрицы $\sum\limits_{j=1\atop j\neq i}^{N}\gamma_j\mathbf p_j\mathbf p_j^H$ спарведливо следующее соотношение $\sum\limits_{j=1\atop j\neq i}^N\gamma_j\mathbf p_j\mathbf p_j^H = \sum\limits_{j=1}^N\gamma_j\mathbf p_j\mathbf p_j^H - \gamma_i\mathbf p_i\mathbf p_i^H$ = $\mathbf S\mathbf \Lambda \mathbf S^H - \gamma_i\mathbf p_i\mathbf p_i$. Тогда по аналогии для вектора $\tilde{\mathbf w}_i$ имеем $\tilde{\mathbf w}_i = \left(\sum\limits_{j=1\atop j\neq i}^{N}\gamma_j\mathbf p_j \mathbf p_j^H + \mathbf I\right)^{-1}\mathbf p_i$ = \left(\mathbf S\mathbf \Lambda \mathbf S^H - \gamma_i\mathbf p_i \mathbf p_i^H + \mathbf I\right)^{-1}\mathbf p_i$ = $\left(\mathbf S\mathbf \Lambda \mathbf S^H - \gamma_i\mathbf S \mathbf \beta_i \mathbf \beta_i^H\mathbf S^H + \mathbf I\right)^{-1}\mathbf p_i$ = $\mathbf S\left(\mathbf \Lambda - \gamma_i\mathbf \beta_i \mathbf \beta_i^H + \mathbf I\right)^{-1}\mathbf S^H\mathbf p_i$ = $\mathbf S\left(\mathbf \Lambda - \gamma_i\mathbf \beta_i \mathbf \beta_i^H + \mathbf I\right)^{-1}\mathbf \beta_i$. Вот, собственно, и всё. На этом я запнулся, так как не знаю, что делать с матрицей $\left(\mathbf \Lambda - \gamma_i\mathbf \beta_i \mathbf \beta_i^H + \mathbf I\right)^{-1}$ (как видно, она является недиагональной, и поэтому её не так просто обратить). Please HELP

[Евгений Машеров]

Попробуйте воспользоваться этим:
http://en.wikipedia.org/wiki/Woodbury_matrix_identity

-- 29 ноя 2012, 13:27 --

Ну, или в этой форме. Причём с самого начала рассуждений, приняв обращаемую матрицу в первом выражении за A, B и С будут $p_i$ и тот же вектор, но транспонированый, D - скалярная матрица. с элементами, обратными $\gamma_i$
http://jameskbeard.com/Rowan/WJHTC/Cour ... _Lemma.pdf

[s.n.s.]

Обозначим $A= \mathbf I +\sum\limits_{j=1\atop j \neq i}^{N}{\gamma_j\mathbf p_j\mathbf p_j^H$ и $P_i =\mathbf p_i\mathbf p_i^H$. Если $\mathbf p_i$ не нормирован, то положим $c=\mathbf p_i^H \mathbf p_i$.
Рассмотрим семейство векторов $\mathbf w(t) = (A + t P_i)^{-1} \mathbf p_i =\frac{1}{c}(A + t P_i)^{-1} P_i \mathbf p_i$. Имеем: $\mathbf w(0) = \tilde{\mathbf w}_i$ и $\mathbf w(\gamma_i) = \mathbf w_i$
Продифференцируем по $t$:

$$ \frac{d}{dt} \mathbf w(t) = \frac{1}{c}(A + t P_i)^{-1} P_i (A + t P_i)^{-1} P_i \mathbf p_i $$

Заметим, что

$$ P_i (A + t P_i)^{-1} P_i = \Bigl( \mathbf p_j^H (A + t P_i)^{-1} \mathbf p_j \Bigr) P_i = b(t) P_i $$

Значит $\frac{d}{dt} \mathbf w(t) = \frac{b(t)}{c} \mathbf w(t)$. То есть, производная рассматриваемого вектора направлена вдоль него самого. Откуда следует, что $\mathbf w(\gamma_i)$ и $\mathbf w(0)$ коллинеарны.

[terricola]

Я решил воспользоваться подсказкой Евгения Машерова (за что ему огромное спасибо!). Рассмотрим вектор $\tilde{\mathbf w}_i$ = \left(\sum\limits_{j=1}^N\gamma_j\mathbf p_j\mathbf p_j^H + \mathbf I - \gamma_i\mathbf p_i\mathbf p_i^H\right)^{-1}\mathbf p_i = $\left(\mathbf A - \mathbf B\mathbf D^{-1}\mathbf C\right)^{-1}\mathbf p_i$, где $\mathbf A = \sum\limits_{j=1}^N\gamma_j\mathbf p_j\mathbf p_j^H + \mathbf I, $\mathbf B = \mathbf p_i$, $\mathbf D = \gamma_i^{-1}$, $\mathbf C = \mathbf p_i^H$. Тогда $\tilde{\mathbf w}_i$ = \left(\mathbf A - \mathbf B\mathbf D^{-1}\mathbf C\right)^{-1}\mathbf p_i$ = $\left(\mathbf A^{-1} + \mathbf A^{-1}\mathbf B\left(\mathbf D - \mathbf C\mathbf A^{-1}\mathbf B\right)^{-1}\mathbf C\mathbf A^{-1}\right)\mathbf p_i$ = $\mathbf A^{-1}\mathbf p_i + \mathbf A^{-1}\mathbf B\left(\mathbf D - \mathbf C\mathbf A^{-1}\mathbf B\right)^{-1}\mathbf C\mathbf A^{-1}\mathbf p_i$. Заметим, что $\mathbf A^{-1}\mathbf p_i = \mathbf w_i$ = $\mathbf A^{-1}\mathbf B = \left(\mathbf C\mathbf A^{-1}\right)^H$. Исходя из этого имеем, $\tilde{\mathbf w}_i = \mathbf w_i + \mathbf w_i\left(\gamma_i^{-1} - \mathbf p_i^H\mathbf A^{-1}\mathbf p_i\right)\mathbf w_i^H\mathbf p_i$ = $\mathbf w_i + \mathbf w_i\mu = \mathbf w_i\left(1 + \mu\right)$. Таким образом, векторы $\mathbf w_i$ и $\tilde{\mathbf w}_i$ действительно коллинеарны!

-- Чт ноя 29, 2012 23:39:02 --

To s.n.s.

Объясните, пожалуйста, как Вы получили равенство $$ P_i (A + t P_i)^{-1} P_i = \Bigl( \mathbf p_j^H (A + t P_i)^{-1} \mathbf p_j \Bigr) P_i. В его правой части, скорее всего, должен быть индекс $i$ вместо $j$. Пытаясь раскрыть внешние скобки в правой части, я получаю $$\Bigl( \mathbf p_i^H (A + t P_i)^{-1} \mathbf p_i \Bigr) P_i = \mathbf p_i^H (A + t P_i)^{-1} \mathbf p_i \mathbf p_i \mathbf p_i^{H}.

[s.n.s.]

terricola в сообщении #651702 писал(а):

To s.n.s.
Объясните, пожалуйста, как Вы получили равенство $$ P_i (A + t P_i)^{-1} P_i = \Bigl( \mathbf p_j^H (A + t P_i)^{-1} \mathbf p_j \Bigr) P_i. В его правой части, скорее всего, должен быть индекс $i$ вместо $j$.

Вы правы, у меня опечатка. Конечно, там индекс $i$.

[terricola]

Хорошо, но всё-равно, s.n.s., объясните, пожалуйста, как Вы получили равенство

$$ P_i (A + t P_i)^{-1} P_i = \Bigl( \mathbf p_i^H (A + t P_i)^{-1} \mathbf p_i \Bigr) P_i $$

?

[Евгений Машеров]

Вообще большой полезности равенство. Позволяет в некоторых случаях очень выиграть в вычислениях.

[s.n.s.]

$$\begin{align} & P_i (A + t P_i)^{-1} P_i = ( \mathbf p_i \mathbf p_i^H ) (A + t P_i)^{-1} (\mathbf p_i \mathbf p_i^H ) = \mathbf p_i \Bigl( \mathbf p_i^H (A + t P_i)^{-1} \mathbf p_i \Bigr) \mathbf p_i^H = \\ & = \Bigl( \mathbf p_i^H (A + t P_i)^{-1} \mathbf p_i \Bigr) \mathbf p_i \mathbf p_i^H = \Bigl( \mathbf p_i^H (A + t P_i)^{-1} \mathbf p_i \Bigr) P_i \end{align}$$

[terricola]

Всё понял. Большое спасибо!