Линейная регрессия

[vlad_light]

Мне кажется, или действительно можно подобрать такую функцию с нулевым СКО для данной выборки? Можно предложить её ТС.

[ewert]

tatkuz1990 в сообщении #822478 писал(а):

Эта задача больше всего нужна мне

Не верю. Если бы Вам она была нужна, то Вы бы попытались её как минимум поставить. Как минимум сформулировать интересующие Вас критерии оптимизации. Как минимум полюбопытствовать, а о чём, собственно, речь. Вам же тут уже много раз (и не только я) пытались об этом сообщить. Но нет -- Вам постановка задачи явно не интересна.

Ну -- вольному воля.

-- Вт фев 04, 2014 00:19:56 --

vlad_light в сообщении #822488 писал(а):

Мне кажется, или действительно можно подобрать такую функцию с нулевым СКО для данной выборки?

Вам даже не кажется, а чудится. Нет, невозможно принципиально.

[vlad_light]

tatkuz1990 в сообщении #821925 писал(а):

Я Попросили аппроксимировать функцией произвольного вида но при двух условиях: чтобы без проблем интегрировалась и чтобы при $x=0$ имела строго ноль, а также стремилась к нулю при бесконечном $x$.
Данные такие:

  x        y
0.2 0.000016
0.4 0.020
0.6 0.23
0.8 0.64
1.0 1.0
1.2 1.0
1.4 0.84
1.6 0.55
1.8 0.33
2.0 0.17
2.2 0.088
2.4 0.042
2.6 0.021
2.8 0.0094
3.0 0.0045
3.2 0.0020
3.4 0.0010
3.6 0.00048
3.8 0.00025
4.0 0.00011

Мне удалось найти приемлемую аппроксимацию методом Монте-Карло. 5 минут машинного времени пришлось потратить.
Вот теперь наступил час истины: убедите меня, что мой метод отсталый. Примените современный и скажите, какая сумма квадратов отклонений получилась.

Цитата:

Вам даже не кажется, а чудится. Нет, невозможно принципиально.

Пусть задано $N$ точек $(x_i, y_i)$:

  x        y
0.0 0.0
0.2 0.000016
0.4 0.020
...
3.8 0.00025
4.0 0.00011

Проводим через эти точки многочлен Лагранжа $p(x)$. Далее, находим многочлен $q(x)=\prod \limits _i(x-x_i)$. Моей аппроксимирующей функцией будет:

$$F(x)=p(x)\exp (-q^2(x))$$

Правда, это без нормировки. Нормировку можно прикрутить, подобрав константу $r$ из уравнения $\int p(x)\exp (-rq^2(x))dx=1$
Почему так нельзя?

[tatkuz1990]

ewert, мне четко вопросы поставили и просят только ответить. Аналитическую закономерность назначили, точки наблюдений предоставили, критерий оптимизации сформулировали: минимум отклонений точек от аппроксимации. Делаю, как рекомендуют и оказывается, что критерий оптимизации деформируется, уходит в сторону. В результате находится не оптимум, а что-то около. Простите, но это уже не математика, а инженерно-конструкторское бюро. Только разбираюсь с первым делом, худо-бедно, но решаю его, подоспела другая проблема, еще более сложная. Дают совершенно голые точки и с помощью критерия оптимизации просят найти еще и оптимальную аналитическую закономерность. Задача в принципе с вековой историей, но посмотрите хотя бы в Excel - насколько же скуден набор аппроксимирующих формул! А ведь на самом деле их сотни и тысячи. И никак не появится светлая голова, которая это великое множество классифицировала бы.

Такой вот родился экспромт.

-- 04.02.2014, 08:27 --

vlad_light в сообщении #822513 писал(а):

Почему так нельзя?

Наверное и так можно. Точки есть. Остается лишь на деле конкретно проверить метод. График кривой и наложенные точки красноречиво обо всем скажут.

[vlad_light]

Цитата:

Наверное и так можно.

Нет, я-то знаю, почему так нельзя. А Вы это понимаете?

[tatkuz1990]

vlad_light в сообщении #822518 писал(а):

Цитата:

Наверное и так можно.

Нет, я-то знаю, почему так нельзя. А Вы это понимаете?

Нет, не понимаю. Не тот уровень. Я программист, а не математик. Но интересуюсь теми математическими вещами, которые в состоянии улавливать.

[ewert]

tatkuz1990 в сообщении #822467 писал(а):

Следовательно: $a=-0.323943 \, ; \, b=3.34791\, ; \, c=-0.529493\, ; \, d=0.865155$

Сумма квадратов отклонений $\sum S^2=0.001407$

Более-менее верно. На самом деле параметры:

$a=-0.3239428264;\ b=3.3478751;\ c=-0.52949935;\ d=0.8651886;$

сумма квадратов отклонений: $0.0014073770186445.$

[tatkuz1990]

ewert, все верно. Это говорит о том, что Монте-Карло - это действительно вещь! Ведь только с его помощью найден наилучший закон распределения. Предложения других, как ни крути, все же уступают и по части точности площади фигуры, ограниченной $f(x)$, и по минимальности суммы квадратов отклонений. С этим не поспоришь.
Сейчас начну анализировать новые данные, которые предоставил уже сотрудник Гидрометслужбы. Тоже функция плотности распределения, причем он дал и свою аппроксимацию, которая ему не по душе. Вот хочу мою $f(x)$ проверить на "гибкость". Если получится не хуже, чем у сотрудника, пишу статью о рождении нового закона распределения (шутка).

[vlad_light]

И, всё же, попробуйте построить функцию распределения, которую я привёл, и посмотрите на отклонения. Формулы для полиномов Лагранжа есть в гугле.

[ewert]

tatkuz1990 в сообщении #822769 писал(а):

Ведь только с его помощью найден наилучший закон распределения

Вот только не с его -- к мало-мальски точному определению параметров он совершенно не приспособлен. Я лично тоже использовал его, но только для прикидки хоть сколько-то приличного начального приближения. За несколько десятков тысяч забросов (соответственно, за пару секунд даже на Матлабе) такое приближение достаточно разумно выявилось, после чего был запущен тупо метод Ньютона, который уверенно сработал уже за десяток итераций. Метод, естественно, конечноразностный, откуда и потеря (для параметров) примерно половины знаков из 15-ти возможных.

-- Вт фев 04, 2014 22:53:27 --

tatkuz1990 в сообщении #822769 писал(а):

Вот хочу мою $f(x)$ проверить на "гибкость".

На прогнутость Вы исследовать вправе, конечно. Только не забывайте, что предложенная Вами (или Вам) модель с точки зрения экстраполяции -- не более чем филькина грамота.

[tatkuz1990]

ewertРаз вы столь умный, то найдите наилучшую аппроксимацию для таких присланных мне Гидрометом точек:

  x   y
0.2 0.02
0.4 0.07
0.6 0.17
0.8 0.36
1.0 0.55
1.2 0.75
1.4 0.96
1.6 1.11
1.8 1.21
2.0 1.29
2.2 1.28
2.4 1.24
2.6 1.18
2.8 1.07
3.0 0.95
3.2 0.85
3.4 0.72
3.6 0.59
3.8 0.5
4.0 0.4
4.2 0.31
4.4 0.26
4.6 0.19
4.8 0.14
5.0 0.12
5.2 0.08
5.4 0.05
5.6 0.05
5.8 0.03
6.0 0.02
6.2 0.02
6.4 0.01

Мною работа эта только что выполнена, - можете уж поверить. Но выдам ее тут же после ваших исследований.
Опять же, вся ваша критика мне по барабану. Потому что вы всего лишь уточняете мой результат.

[Евгений Машеров]

Мучает меня смутное сомнение. Что топикстартер подрядился на некую работу, но ему очень хочется, чтобы её выполнили за него. А когда помогающих - много, но ни одного, который выполнил бы всю работу даром, не находится, топикстартер изволит гневаться - "рабы ленивые!"

[tatkuz1990]

Евгений Машеров в сообщении #822948 писал(а):

Мучает меня смутное сомнение. Что топикстартер подрядился на некую работу, но ему очень хочется, чтобы её выполнили за него.

Зря мучаетесь. Я давно работаю и всегда пытаюсь искать истину. Когда же вижу малейшую фальшь, пытаюсь ее устранить. Это нормально в науке. Поднятая мной проблема чрезвычайно важна для прикладной математики, ибо ошибка может иметь в реальности даже катастрофические последствия. Не так страшно напортачить в теореме Ферма, как в прогнозах опасных явлений. С последней задачей у меня полный порядок: решение получено, ни в чьей помощи не нуждаюсь.

[Александрович]

По поводу аппроксимации плотности распределения. В этом случае считаю важным не стремиться к минимуму суммы квадратов невязок, выдумывая несуществующие функции а использовать известные, проверяя гипотезу о принадлежности опытных данных теоретическим. А параметры находить например, исходя из минимума суммы пирсоновских расстояний.

[tatkuz1990]

Александрович, многие известные распределения (Вейбулла, Пуассона, Стьюдента, Гумбеля, Релея, Пуасснона ...) - это всего лишь аппроксимации различных случайных процессов. Ну, какая там еще теория? Они (распределения) сложились исторически точно так же, как исторически сложились цифры. Ими было удобно пользоваться, когда не было вычислительных машин.
Теперь же мы имеем возможность не притягивать за уши точки наблюдений к какой-либо яркой личности, а просто аппроксимировать самой подходящей функцией. Глупо говорить "точки хорошо ложатся на кривую Вейбулла", в то время как еще лучше они ложатся на совсем иную, даже никому не известную формулу.