2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


Посмотреть правила форума



Начать новую тему Ответить на тему
 
 Score test confidence intervals for regression coefficients
Сообщение10.12.2017, 06:56 
Аватара пользователя


15/11/08
502
London, ON
Здравствуйте,
У меня вопрос по поводу того как рассчитывать доверительный интервал при помощи Score test. Для логистической регрессии с $p$ independent variables функция лог-правдоподобия равна:

$\l(\beta)=\sum_{i=1}^n\bigg(y_ix_i\beta-\ln\big(\frac{1}{1+\exp(x_i\beta)}\big)\bigg)$

Тогда score function это:

$U(\beta_j)=\frac{\partial\l(\beta_j)}{\partial\beta_j}=\sum_{i=1}^n\bigg(x_{ij}(y_i-p_i)\bigg)$

Где $p_i=\frac{\exp(x_i\beta)}{1+\exp(x_i\beta)}$

Эта формула приравнивается к нулю и так находятся предикторы для каждой переменной. Потом я должен найти Информацию Фишера $I(\beta)$. А score test тогда для $\beta_j$

$S(\beta_j)=U(\beta_j)I(\beta_j)^{-1}U(\beta_j)\sim \chi^2_{d}$

Соответственно, для того чтобы найти нижний доверительный интервал я должен найти $\beta^L_j$ при которой

$S(\beta^L_j)=U(\beta^L_j)I(\beta^L_j)^{-1}U(\beta^L_j)= q_{0.025}\big(\chi^2_{1}\big)$
а для верхного доверительного интервала $\beta^U_j$ при которой

$S(\beta^U_j)=U(\beta^U_j)I(\beta^U_j)^{-1}U(\beta^U_j)= q_{0.975}\big(\chi^2_{1}\big)$

где $q_{\dot}$ это соответствующий квантиль. Я надеюсь я тут не ошибся. Но у меня вопрос. $U$ это вектор первых производных, а информация Фишера это матрица вторых производных функции лог-правдоподобия. Для расчета интервала я должен перемножать векторы и матрицу и изменять $\beta_j$ или же надо взять подходящую производную из вектора и из матрицы ($I(j,j)$)? Еще вопрос по поводу degrees of freedom. Если я ищу интервал для каждой переменной по отдельности, то $df=1$, а не $p$. Это так?

Я написал код, который это делает, но интервалы которые я получаю намного хуже Wald интервалов или интервалов основанный на profile-likelihood. Если можете посоветовать литературу по этому поводу, это тоже может помочь. Заранее спасибо.

 Профиль  
                  
 
 Re: Score test confidence intervals for regression coefficients
Сообщение11.12.2017, 03:00 
Аватара пользователя


15/11/08
502
London, ON
В задаче разобрался. Топик можно закрыть.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 2 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group