2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


Посмотреть правила форума



Начать новую тему Ответить на тему
 
 Score test confidence intervals for regression coefficients
Сообщение10.12.2017, 06:56 
Аватара пользователя


15/11/08
502
London, ON
Здравствуйте,
У меня вопрос по поводу того как рассчитывать доверительный интервал при помощи Score test. Для логистической регрессии с $p$ independent variables функция лог-правдоподобия равна:

$\l(\beta)=\sum_{i=1}^n\bigg(y_ix_i\beta-\ln\big(\frac{1}{1+\exp(x_i\beta)}\big)\bigg)$

Тогда score function это:

$U(\beta_j)=\frac{\partial\l(\beta_j)}{\partial\beta_j}=\sum_{i=1}^n\bigg(x_{ij}(y_i-p_i)\bigg)$

Где $p_i=\frac{\exp(x_i\beta)}{1+\exp(x_i\beta)}$

Эта формула приравнивается к нулю и так находятся предикторы для каждой переменной. Потом я должен найти Информацию Фишера $I(\beta)$. А score test тогда для $\beta_j$

$S(\beta_j)=U(\beta_j)I(\beta_j)^{-1}U(\beta_j)\sim \chi^2_{d}$

Соответственно, для того чтобы найти нижний доверительный интервал я должен найти $\beta^L_j$ при которой

$S(\beta^L_j)=U(\beta^L_j)I(\beta^L_j)^{-1}U(\beta^L_j)= q_{0.025}\big(\chi^2_{1}\big)$
а для верхного доверительного интервала $\beta^U_j$ при которой

$S(\beta^U_j)=U(\beta^U_j)I(\beta^U_j)^{-1}U(\beta^U_j)= q_{0.975}\big(\chi^2_{1}\big)$

где $q_{\dot}$ это соответствующий квантиль. Я надеюсь я тут не ошибся. Но у меня вопрос. $U$ это вектор первых производных, а информация Фишера это матрица вторых производных функции лог-правдоподобия. Для расчета интервала я должен перемножать векторы и матрицу и изменять $\beta_j$ или же надо взять подходящую производную из вектора и из матрицы ($I(j,j)$)? Еще вопрос по поводу degrees of freedom. Если я ищу интервал для каждой переменной по отдельности, то $df=1$, а не $p$. Это так?

Я написал код, который это делает, но интервалы которые я получаю намного хуже Wald интервалов или интервалов основанный на profile-likelihood. Если можете посоветовать литературу по этому поводу, это тоже может помочь. Заранее спасибо.

 Профиль  
                  
 
 Re: Score test confidence intervals for regression coefficients
Сообщение11.12.2017, 03:00 
Аватара пользователя


15/11/08
502
London, ON
В задаче разобрался. Топик можно закрыть.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 2 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: mihaild


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group