Вопрос по линейной регресси

[Felt]

Добрый день,
в учебнике по эконометрике в главе, где говорится о мультиколлинеарности, описывается тест: мультиколлинеарность существует тогда, когда $R_{i}^{2} \ge R^2$, $i=2,3,...,k$, где $R_{i}^2$ - коэффициент детерминации переменной i и остальных переменных. Нигде примера подсчета этого коэффициента не нашел, поэтому остается непонятным какой модели это коэффициент. Правильно ли я понимаю, что нужно провести линейную регрессию модели $x_{i}^{(j)}=\beta_1+\beta_2 x_{2}^{(j)}+...+\beta_{i-1} x_{i-1}^{(j)}+\beta_{i+1} x_{i+1}^{(j)}+...+\beta_n x_{n}^{(j)}+u_j$, и коэффициент детерминации данной модели и есть $R_{i}^{2}$?

[2old]

Felt
Такого "теста" не видел, но те что видел пляшут у такой регрессии, как вы написали ($VIF$, например).
Вообще странный признак, а где вы такой прочитали?

[Евгений Машеров]

Похоже, именно это и имеется в виду. Хотя довольно странно, что проводится сравнение с коэффициентом детерминации для зависимой переменной. Обычно из коэффициента детерминации для модели регрессии одной переменной на прочие получают показатель VIF (фактор инфляции дисперсии) $VIF=\frac 1 {1-R^2_j}$

[Felt]

В местном учебнике и на лекциях, где я учусь(не в СНГ), дается именно такой способ обнаружения мультиколлинеарности. VIF нам, при этом, не давали.
Если я правильно понимаю, что обозначает $R_{i}^{2}$, то я хоть немного спасен, потому что написано действительно мутно и никакого примера :)
Спасибо

[Евгений Машеров]

Дело в том, что строго определена только "точная мультиколлинеарность" (линейная зависимость регрессоров). Куда чаще встречающаяся (и не излечивающаяся отбрасыванием регрессоров, линейно выражаемых через другие) "приблизительная (или частичная) мультиколлинеарность" точно не характеризуется. Тут несколько методов обнаружения, и среди них нет Вашего.
https://en.wikipedia.org/wiki/Multicollinearity
Кстати, этот самый $R^2_j$ легко выражается через обратную к корреляционной матрицу.

[Felt]

Евгений Машеров в сообщении #1008873 писал(а):

Дело в том, что строго определена только "точная мультиколлинеарность" (линейная зависимость регрессоров). Куда чаще встречающаяся (и не излечивающаяся отбрасыванием регрессоров, линейно выражаемых через другие) "приблизительная (или частичная) мультиколлинеарность" точно не характеризуется. Тут несколько методов обнаружения, и среди них нет Вашего.

Да, речь не идет о линейной зависимости, а только о детерминанте матрицы данных близком нулю.

А каким образом эти коэффициенты выражаются через матрицу обратную корреляционной матрице?

[2old]

Felt
Диагональные элементы обратной корреляционной матрицы

[Евгений Машеров]

Обращая корреляционную матрицу методом окаймления
http://enc-dic.com/enc_math/Okamlenija-metod-2802.html
обнаруживаем, что диагональный элемент обратной матрицы есть $\frac 1 {1-R^2_j}$
(Здесь полезно вспомнить выражение для коэффициента детерминации через коэффициенты корреляции и нормированные коэффициенты регрессии)

[robot80]

Felt, поищите в сети или в библиотеке учебник Елисеевой "Эконометрика". Там достаточно просто и на пальцах рассматривается ваш вопрос.