регрессия y=a x

[Brukvalub]

AndreyL, я спрашивал, куда и по какой причине у вас пропал свободный параметр?

[AndreyL]

Его просто не было - по условию задачи. Одна величина пропорциональна другой.

[Brukvalub]

Дело в том, что был этот параметр в условии, или его не было, сама выборка "не знает". Так, может быть, от вас ждут, что вы посчитаете статистики для регрессии в общем виде, а уж затем примете или отбросите гипотезу о нулевом свободном параметре?
Или же от вас ждут применения других тестов, ведь есть тест Вальда (W), тест отношения правдоподобия (LR) и тест множителей Лагранжа (LM)?

[AndreyL]

Если бы нужно было выяснить, равен ли нулю свободный параметр, я сделал бы это в лоб критерием Стьюдента, который, в отличии от тестов Вальда (W), отношения правдоподобия (LR) и множителей Лагранжа (LM) не асимптотический. А мне бы хотелось аналог F-теста.

[AndreyL]

Я чувствую, общего критерия нет.

Можно ли эту задачу решить через Монте-Карло?
Что-нибудь типа при тех же $X$ задать вектор $Z$ как нормально распределенная случайная величина с центром и дисперсией как у $Y$, провести регрессию без свободного параметра и насчитать закон распределения коэффициента корреляции между $Z$ и оценкой $Z$?

Как это корректно сделать?

[dsge]

Сербер. Линейный регрессионный анализ. Гл.4.
Проверка гипотезы $H: A\beta=c$.

[AndreyL]

Не совсем понял, как этим критерием воспользоваться при моей задаче. Ввести в модель свободный параметр, сделать $A=\left( \begin{array}{cc} 1 & 0\\ 0 & 1 \end{array} \right)$, $c=\left( \begin{array}{cc} 0\\ 0 \end{array} \right)$, или как-то иначе?

Да, кстати, он Себер.

[dsge]

$A=\left( 1, \dots, 1 \right)$, $c=0$

AndreyL в сообщении #1172250 писал(а):

Да, кстати, он Себер.

Да, спасибо. Цербером навеяло;)

[AndreyL]

Не совсем понял размерность вектора $A$. В исходной модели параметр всего один. Если добавлять еще свободный параметр, то будет два.

[dsge]

AndreyL в сообщении #1172257 писал(а):

Не совсем понял размерность вектора $A$. В исходной модели параметр всего один. Если добавлять еще свободный параметр, то будет два.

Тогда $A=1$ и $A=(1,1)$

[AndreyL]

Не совсем понял, а зачем $A=(1,1)$? Это же гипотеза о том, что сумма коэффициентов равна нулю, а зачем нам сумма?

[Евгений Машеров]

А давайте начнём с формулировки гипотез. Нулевой и альтернативной.

[dsge]

AndreyL в сообщении #1172268 писал(а):

Не совсем понял, а зачем $A=(1,1)$? Это же гипотеза о том, что сумма коэффициентов равна нулю, а зачем нам сумма?

А, да , ваш вариант был верен.

[AndreyL]

Тут у меня большая сложность. Если для варианта со свободным параметром нулевая гипотеза формулируется легко - угловой параметр равен нулю, и, значит, зависимости нет, то для варианта без свободного параметра я не знаю, как ее сформулировать. Вариант "угловой параметр равен нулю" соответствует гипотезе о равенстве нулю среднего по $Y$, но это не совсем устраивает. Простой пример был в десятом посте этой темы - средние по $X$ и по $Y$ положительны, а корреляция отрицательная. Регрессия без свободного параметра все равно даст положительный угловой коэффициент, но даже взгляда на диаграмму будет достаточно, что такой зависимости там нет. И как корректно сформулировать тогда гипотезу?

-- Вс ноя 27, 2016 9:09 pm --

dsge в сообщении #1172274 писал(а):

AndreyL в сообщении #1172268 писал(а):

Не совсем понял, а зачем $A=(1,1)$? Это же гипотеза о том, что сумма коэффициентов равна нулю, а зачем нам сумма?

А, да , ваш вариант был верен.

Тут немного сложнее - с точки зрения наличия зависимости типа $y=a x$ при введении в модель свободного параметра и проверки гипотезы о равенстве обоих параметров нулю: если нулю равен свободный параметр, то такая зависимость есть, а если угловой, то нет. И из того, примем мы нулевую гипотезу или отвергнем не будет следовать ровным счетом ничего.

[dsge]

AndreyL в сообщении #1172275 писал(а):

Простой пример был в десятом посте этой темы - средние по $X$ и по $Y$ положительны, а корреляция отрицательная. Регрессия без свободного параметра все равно даст положительный угловой коэффициент

В данном случае естественно тестировать будет ли константа равна нулю. Хотя, именно для константы отвергнуть нуль обычно труднее, чем для других коэффициентов. Возможно, лучше тестировать отношением правдоподобий моделей с константой и без.