2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


В этом разделе нельзя создавать новые темы.

Если Вы хотите задать новый вопрос, то не дописывайте его в существующую тему, а создайте новую в корневом разделе "Помогите решить/разобраться (М)".

Если Вы зададите новый вопрос в существующей теме, то в случае нарушения оформления или других правил форума Ваше сообщение и все ответы на него могут быть удалены без предупреждения.

Не ищите на этом форуме халяву, правила запрещают участникам публиковать готовые решения стандартных учебных задач. Автор вопроса обязан привести свои попытки решения и указать конкретные затруднения.

Обязательно просмотрите тему Правила данного раздела, иначе Ваша тема может быть удалена или перемещена в Карантин, а Вы так и не узнаете, почему.



Начать новую тему Ответить на тему
 
 Оценка точности аппроксимации
Сообщение22.02.2015, 14:27 


14/05/14
9
Есть набор данных: x и y. Нужно оценить, по какому законы распределены данные: по степенному или по экспоненциальному.
С помощью метода наименьших квадратов я построил функцию аппроксимации в степенном и в экспоненциальном виде, осталось оценить точность этих аппроксимаций (в числовом виде, чтобы можно было сравнить).
Есть две идеи: средняя ошибка аппроксимации и коэффициент детерминации. Помучившись довольно долгое время с коэффициентом детерминации я решил от него отказаться, так как не смог получить такой же коэффициент, как у excel'я (вычислять нужно ручками, потом запрограммирую). Еще не уверен, можно ли пользоваться этим коэффициентом для оценки нелинейной регрессии.

Средняя ошибка аппроксимации не дала желаемого результата, так как есть еще "коэффициент эффективности" модели, нужно найти зависимость точности соответствия модели степенному распределению от этого "коэффициента эффективности". По идее, зависимость должна быть прямая (чем ближе модель к степенному распределению, тем более эффективна модель), как утверждает мой научный руководитель, но описанными методами определения точности аппроксимации, зависимость не была получена.

Прошу помочь с выбором метода оценки аппроксимации, либо советами по использованию описанных. Заранее спасибо всем)

 Профиль  
                  
 
 Re: Оценка точности аппроксимации
Сообщение22.02.2015, 15:21 
Заслуженный участник
Аватара пользователя


11/03/08
5947
Москва
Всё-таки, наверно, не закон распределения, а вид нелинейной регрессии?

 Профиль  
                  
 
 Re: Оценка точности аппроксимации
Сообщение22.02.2015, 15:35 


14/05/14
9
Евгений Машеров в сообщении #981225 писал(а):
Всё-таки, наверно, не закон распределения, а вид нелинейной регрессии?


Да, конечно же, никакой вероятности здесь нет, нужен вид нелинейной регрессии.

 Профиль  
                  
 
 Re: Оценка точности аппроксимации
Сообщение23.02.2015, 00:39 


14/05/14
9
Решил задачу следующим образом: представил нелинейную регрессию в виде линейной. Достаточно было взять логарфим, то есть
$
f(x)=ae^{xm}$
$\ln{f(x)}=\ln{a} + xm$
$\Phi(x) = A +bx
$

Дальше можно исследовать как линейную регрессию и находить коэффициент детерминации
Соответственно, от фактических значений $y$ нужно тоже брать логарифм

P.S. Пока разбирался с этим, натыкался на высказывания и даже какие-то статьи, что коэффициент детерминации нельзя применять к нелинейной регрессии, он будет неверным, нужно искать другие способы исследовать точность аппроксимации. Подскажите, верно ли говорят?

 Профиль  
                  
 
 Re: Оценка точности аппроксимации
Сообщение23.02.2015, 08:08 
Аватара пользователя


21/01/09
3123
Дивногорск
Mad_Sanek в сообщении #981191 писал(а):
Есть набор данных: x и y. Нужно оценить, по какому законы распределены данные: по степенному или по экспоненциальному.
С помощью метода наименьших квадратов я построил функцию аппроксимации в степенном и в экспоненциальном виде, осталось оценить точность этих аппроксимаций (в числовом виде, чтобы можно было сравнить).

Коэффициент детерминации это: $1-\frac{\sum\limits_{1}^{n}(y_i-y\tilde{}_i)^2}{\sum\limits_{1}^{n}(y_i-y\tilde{})^2}$.
Он применим для любых зависимостей. По нему и судите.

-- Пн фев 23, 2015 12:11:35 --

Mad_Sanek в сообщении #981438 писал(а):
Решил задачу следующим образом: представил нелинейную регрессию в виде линейной.

При таком решении вы не получите минимум суммы квадратов невязок для исходной функции.

 Профиль  
                  
 
 Re: Оценка точности аппроксимации
Сообщение23.02.2015, 10:05 
Заслуженный участник
Аватара пользователя


11/03/08
5947
Москва
Проблема в том, что нелинейное преобразование меняет спецификацию ошибки. Даже если в исходной модели наблюдения отягощены ошибкой с равной дисперсией, после преобразования невязки полученной линеаризованной модели получают разную дисперсию (гетероскедастичность). Если изначально ошибки малы, эффект незначителен, но чем они больше, тем сильнее это сказывается. При больших надо либо использовать нелинейные методы оценивания, либо доказать, что именно после преобразования дисперсии выровнялись.
А сравнивать - коэффициент детерминации для сравнения моделей пригоден, если в них равное число параметров. Поскольку добавление даже несвязанных регрессоров коэффициент детерминации увеличивает (строго говоря, не уменьшает, но чтобы не изменился, нужно, чтобы добавляемый регрессор был бы ортогонален к вектору остатков модели, построенной без него). В этом случае лучше что-то, учитывающее число регрессоров и вводящее поправку - F-отношение, adjusted $R^2$. $C_p$ и т.п.
Ну, или проверить на независимой выборке.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 6 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group