Ковариация и корреляция

[Stensen]

Всем доброго здравия. Уважаемые, возник вопрос. Существует понятие коэффициента корреляции для 2-х случайных величин:

$\rho =\frac{cov(X,Y)}{\sigma_x \sigma_y} = \frac{M[(X-\mu_x)(Y-\mu_Y)]}{\sigma_x \sigma_y} $ , или в выборочном случае: $\rho =\frac{\bar{xy}-\bar{x}\bar{y}}{\bar{S_x} \bar{S_y}} $ . Это понятие, вроде определяется для общего случая. Но его называют линейным коэффициентом корреляции. А почему его называю линейным ? Ведь таким он определяется для общего случая.

[Missir]

Потому, что он характеризует только силу линейной взаимосвязи, и даже формально связан с коэффициентом наклона линейной регрессии. Есть и нелинейные корреляции, например Спирмена, Кендалла и т.п., одинаково чувствительные как к линейным так и нелинейным зависимостям. Но они менее мощные.

[Евгений Машеров]

Тут небольшая неточность. Он коэффициент линейной корреляции. Хотя указанное Вами наименование тоже распространено. Поскольку полноценно характеризует лишь наличие и силу линейной зависимости. В нелинейном случае он может вообще не работать (простейший пример - корреляции между x и $x^2$ или $|x|$, если иксы разбросаны симметрично около нуля - связь точная, функциональная, но корреляция равна нулю.)

[Amw]

Stensen в сообщении #1626392 писал(а):

Но его называют линейным коэффициентом корреляции. А почему его называю линейным ?

Просто так назвали... Если Вы вместо $Y$ возьмете $Y^2$ то опять же получите коэффициент корреляции (линейный) между $X$ и $Y^2$.
Вообще уравнения регрессии относятся к линейному программированию потому, что они линейны относительно коэффициентов, а переменные могут быть любыми - квадратами ч.-либо, логарифмами и пр.
Например $Y=k_0+k_1X+k_2X^2+k_3X^3+k_4X^4...$ ур-ние линейное относительно коэффициентов .

[Евгений Машеров]

Amw в сообщении #1626416 писал(а):

относятся к линейному программированию

Вообще-то линейное программирование это метод оптимизации при линейных ЦФ и ограничениях. К линейной регрессии отношения не имеет.

[Amw]

Согласен. Перемешалось маленько за давностью лет.

[Евгений Машеров]

Stensen в сообщении #1626392 писал(а):

Это понятие, вроде определяется для общего случая.

Считать можно для любых данных. Но если зависимость не линейная, выводы будут неосмыслены. Если зависимость нелинейная, но монотонная, есть резон использовать Спирмена (или Кэнделла). При существенно нелинейной, наподобие вышеприведенного примера с квадратом, нужны другие методы (скажем, было такое "корреляционное отношение", где использовалось разбиение на ячейки, есть ядерные оценки и т.п.).

[Amw]

Евгений Машеров в сообщении #1626465 писал(а):

Считать можно для любых данных. Но если зависимость не линейная, выводы будут неосмыслены.

Т.е осмысленны только для линейной корреляции.

Евгений Машеров в сообщении #1626465 писал(а):

При существенно нелинейной, наподобие вышеприведенного примера с квадратом, нужны другие методы

Всё равно, первым шагом можно пытаться аппроксимировать полиномом (регрессионный анализ), а если переменная одна - просто предварительно на график посмотреть...
Дальше, если есть какие-то теории процесса, уже пытаться моделировать аналитически.