2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


Посмотреть правила форума



Начать новую тему Ответить на тему
 
 Регрессия. Коэффициент детерминации R^2 и скорректированный.
Сообщение27.05.2016, 17:47 


27/05/16
5
Помогите разобраться. Известна формула о связи сумм квадратов отклонений $TSS=ESS+RSS$. Коэффициент детерминации $R^2$ определяем как отношение факторной и полной сумм квадратов - $R^2= \frac{ESS}{TSS}$. Здесь все ясно. Но когда переходим к вычислению скорректированного коэф-та $R^2_{adj}$, основная идея которого - использование приведенных ( одну степень свободы) сумм квадратов, вместо того, чтобы разделить приведенный $ESS^{*}=\frac{ESS}{m}$ (m - число факторов) на приведенный $TSS^{*}=\frac{TSS}{(n-1)}$ (n - объем выборки), - вот так $$R^2_{adj}=\frac{ESS^{*}}{TSS^{*}}              (1)$$ , стандартная формула рекомендует действовать не напрямую, а через приведенные $TSS^{*}$ и $RSS^{*}=\frac{RSS}{(n-m-1)}$. Если выразить все это через $R^2$, получится вот такая забавная формула $$R^2_{adj}=1-(1-R^2)\frac{n-1}{n-m-1}$$
К тому же, для приведенных величин равенство $TSS^{*}=ESS^*+RSS^{*}$ уже не выполняется - это тоже вносит сумятицу в понимание вопроса.

 Профиль  
                  
 
 Posted automatically
Сообщение27.05.2016, 19:46 


20/03/14
12041
 i  Тема перемещена из форума «Помогите решить / разобраться (М)» в форум «Карантин»
по следующим причинам:

- неправильно набраны формулы (краткие инструкции: «Краткий FAQ по тегу [math]» и видеоролик Как записывать формулы);

Исправьте все Ваши ошибки и сообщите об этом в теме Сообщение в карантине исправлено.
Настоятельно рекомендуется ознакомиться с темами Что такое карантин и что нужно делать, чтобы там оказаться и Правила научного форума.

 Профиль  
                  
 
 Posted automatically
Сообщение27.05.2016, 23:41 


20/03/14
12041
 i  Тема перемещена из форума «Карантин» в форум «Помогите решить / разобраться (М)»

 Профиль  
                  
 
 Re: Регрессия. Коэффициент детерминации R^2 и скорректированный.
Сообщение28.05.2016, 15:38 
Заслуженный участник
Аватара пользователя


11/03/08
9883
Москва
Основная идея там иная - а именно несмещённые оценки дисперсии ошибки. Одна через проекции на пространство, ортогональное к регрессорам, вторая на пространство, натянутое на регрессоры (в предположении, что истинные коэффициенты регрессии нули)

 Профиль  
                  
 
 Re: Регрессия. Коэффициент детерминации R^2 и скорректированный.
Сообщение29.05.2016, 00:02 


27/05/16
5
Пробую разобраться. Под пространством, "натянутым на регрессоры" имеется в виду линейная оболочка векторов $X_i$, составленных из значений зависимых переменных i-того фактора? Тогда вектор расчетных значений $Y\hat{}$ будет проекцией вектора Y на это подпространство а вектор ошибки $\varepsilon=Y-Y\hat{} $ , ортогонален ему. Что такое "проекция оценки дисперсии ошибки"? Длина проекции этого вектора?

 Профиль  
                  
 
 Re: Регрессия. Коэффициент детерминации R^2 и скорректированный.
Сообщение29.05.2016, 08:24 
Заслуженный участник
Аватара пользователя


11/03/08
9883
Москва
Про «проекцию дисперсии ошибок» это не я говорил. Я только про оценки дисперсии $\varepsilon$ через проекции на два пространства. В одном лежат регрессоры, второе ему ортогонально. Знаменатели взяты из требования несмещённости оценок, одна пллучена для ортогонального регрессорам пространства, другая для объединения их. Если в действительности связи нет - оценки равны, и скорректированный коэффициент равен нулю. Можно использовать оценки по пространству регрессоров и ортогональному, но тогда придём к F-отношению, а здесь получается величина, похожая на популярный (особенно на момент, когда её предложили) коэффициент корреляции. Цель, с практической точки зрения, та же. Не допустить переподгонки из-за того, что ошибка «прячется» в пространстве регрессоров.

 Профиль  
                  
 
 Re: Регрессия. Коэффициент детерминации R^2 и скорректированный.
Сообщение29.05.2016, 13:38 


27/05/16
5
Спасибо большое, начинаю что-то соображать. Если не трудно, подкиньте ссылку на хороший учебник по эконометрике, а то рекомендованный нам более напоминает комиксы.

 Профиль  
                  
 
 Re: Регрессия. Коэффициент детерминации R^2 и скорректированный.
Сообщение30.05.2016, 09:19 
Заслуженный участник
Аватара пользователя


11/03/08
9883
Москва
Не преподаю уже давно. Так что не могу уверенно советовать. Тут время от времени проскакивала ссылка на Форум по эконометрике, там, возможно, смогут Вам помочь. Но тут ещё есть факторы, которые надо учесть - объём и цель курса (в смысле ознакомительный он, или полнообъёмный), уровень математического бэкграунда и прочие.

 Профиль  
                  
 
 Re: Регрессия. Коэффициент детерминации R^2 и скорректированный.
Сообщение30.05.2016, 15:04 


27/05/16
5
Хочу стать могучим непобедимым исполинов в области регрессионного анализа. Математический бэкграунд нормальный и, при необходимости, апградируется до нужного уровня.)

 Профиль  
                  
 
 Re: Регрессия. Коэффициент детерминации R^2 и скорректированный.
Сообщение30.05.2016, 19:41 
Заслуженный участник
Аватара пользователя


11/03/08
9883
Москва
Так может, изучать именно книги по регрессионному анализу? Себер, Джонсон, Демиденко? Для эконометрики это всего лишь частный метод.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 10 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group