равенство нескольких средних

[AndreyL]

В идеале я хочу решение в явном виде, считаю в Математике, там тоже есть функция PseudoInverse, при небольших порядках матриц она нормально работает в символьном виде. Правильно ли я понимаю, что получится так $B'.B=C^{[-1]}.I_0$, где $C^{[-1]}$ - псевдоинвертированная скорректированная ковариационная матрица. Можно ли так делать?

[realeugene]

AndreyL в сообщении #1612049 писал(а):

Можно ли так делать?

Нет, так делать нельзя. Если псевдоинверсия - то будет матрица полного размера. Нулевое пространство которой будет вдоль вектора из всех единиц.

И я понял что идея считать квадратичную форму с просто псевдоинверсией на исходном векторе неправильная, так как у скорректированного вектора искажены и другие размерности. Но можно привести тест к единой квадратичной форме на исходном векторе.

[AndreyL]

Попробовал так $C^{[-1/2]}.C.C^{[-1/2]}$ - не получается единичная матрица с последним нулем, $C^{[-1/2]}$ это псевдообратная в степени 1/2

[realeugene]

Не, если вам нужен последний нуль - тогда вам нужно явно базис вращать, чтобы нулевое пространство совпало с последней координатой. Тогда копайте разложение квадратичной формы на ортогональную и диагональную матрицы. Псевдоинверсия позволяет вычислить тест без явного вращения базиса.

Ну или же оценивайте матожидание так, как я написал раньше: по последней координате. Тогда и вращать будет не нужно, так как последняя координата обнулится.

[AndreyL]

Похоже понял - последнее собственное значение матрицы будет 0, матрица собственных векторов ортогональна. В аналитическом виде уже не получается, но для численного теста пойдет. Только, насколько я понимаю, для приведения к единичной собственный векторы еще нужно поделить на корни из собственных значений, или не так?

[realeugene]

А проверьте следующий тест на $\chi_{n-1}^2$:

$$t = \sum_{i=1}^n \frac{x_i^2}{\sigma_i^2}-\frac 1 {\sum_{i=1}^n{1/{\sigma_i^2}}} \left(\sum_{i=1}^n\frac{x_i} {\sigma_i^2}\right)^2$$

[AndreyL]

Во втором слагаемом, по-моему, под скобкой должна быть вся сумма

-- Пн окт 02, 2023 3:15 pm --

Ни так, ни так - эта статистика в 90% случаев отрицательна

[realeugene]

Значит где-то ошибся

-- 02.10.2023, 16:39 --

Одну очевидную ошибку нашел, всё перепроверять и сводить в одно выражение сейчас нет времени. Может быть так:

$$t = \sum_{i=1}^{n-1} \frac{y_i^2}{\sigma_i^2}-\frac 1 {\sum_{i=1}^n{1/{\sigma_i^2}}} \left(\sum_{i=1}^{n-1}\frac{y_i} {\sigma_i^2}\right)^2$$

где

$$y_i=x_i-x_n$$

Сорри за сырые ошибочные выкладки

[AndreyL]

У меня тоже пока ерунда получается
$Y_i=X_i-\mu_i$
матрица преобразования $X$ в $Y$ есть $A$, ее внедиагональные элементы равны $A_{j,k}=-\frac{\sigma_j}{\sum _{i=1}^m \sigma_i-\sigma_k}$, а на главной диагонали единицы.
Ковариационная матрица $X$ есть S, она диагональная, на главной диагонали $\sigma_i$. Тогда ковариационная матрица $Y$ есть $C=A'.S.A$, ее ранг $n-1$.
Матрица собственных векторов матрицы $C$ есть $V$. Преобразуем матрицу $V$, разделив ее векторы на корни из их собственных значений $W_k=\frac{V_k}{\sqrt v_k}$, последнее собственное значение нулевое, поэтому матрица $W$ имеет размер $n\times n-1$, тогда вектор $Z=Y.W$ имеет длину $n-1$. Сумма квадратов этого вектора должна подчинятся $\chi_{n-1}^2$ - не подчиняется.

-- Пн окт 02, 2023 3:48 pm --

realeugene в сообщении #1612059 писал(а):

$$t = \sum_{i=1}^{n-1} \frac{y_i^2}{\sigma_i^2}-\frac 1 {\sum_{i=1}^n{1/{\sigma_i^2}}} \left(\sum_{i=1}^{n-1}\frac{y_i} {\sigma_i^2}\right)^2$$

где

$$y_i=x_i-x_n$$

Так тоже часто отрицательные

[AndreyL]

Схема получилась - сумма квадратов вектора $Z=Y.W$ подчиняется $\chi_{n-1}^2$. realeugene оказался прав - статистики при расчете среднего по всем элементам и по "остальным" элементам абсолютно одинаковые, т.е. это один и тот же критерий.

-- Пн окт 02, 2023 7:52 pm --

AndreyL в сообщении #1612061 писал(а):

Ковариационная матрица $X$ есть S, она диагональная, на главной диагонали $\sigma_i$.

На главной диагонали не $\sigma_i$, а $\sigma_i^2$ - тут и был косяк

-- Пн окт 02, 2023 8:18 pm --

А если использовать в качестве оценки центра последнее измерение, то статистика $t = \sum_{i=1}^{n-1} \frac{\left(x_i-x_n \right)^2}{\sigma_i^2+\sigma_n^2}$ по идее должна подчиняться $\chi_{n-1}^2$, но она ему подчиняется только при $n=2$, и чем больше $n$, тем больше отклонение. Не понятно, почему, поскольку формально мы просто сокращаем выборку и тогда все $x_i-x_n$ независимы.

[realeugene]

AndreyL в сообщении #1612110 писал(а):

Не понятно, почему, поскольку формально мы просто сокращаем выборку и тогда все $x_i-x_n$ независимы.

Нет, в ковариации появляются внедиагональные члены, из-за присутствия в каждом компоненте $x_n$. Нужно обелять.

[AndreyL]

Да, я про это уже подумал. Там матрица перехода получается единичная, последняя строка минус единицы, а последний элемент ноль, попробую по той же схеме - уже просто интересно.

-- Вт окт 03, 2023 4:13 am --

Сделал - эта та-же самая статистика. Получается, что хоть что берем за оценку среднего (оценка должна быть несмещенной), критерий получается одним и тем-же. Оно, наверное, и правильно.

-- Вт окт 03, 2023 4:42 am --

Еще, формально во всех этих критериях оценка среднего получается ка средневзвешенная, просто вес назначается по разному, в одном случае как обратная дисперсия, во втором то же, но для элемента выборки, для которого считается среднее, вес 0, в третьем все нули кроме последнего. Может быть при оценке среднего, скажем, медианой, критерий будет другим

[realeugene]

AndreyL в сообщении #1612149 писал(а):

Может быть при оценке среднего, скажем, медианой, критерий будет другим

Все эти тесты оценивают вероятность появления последовательности наблюдаемых измерений в рамках гипотезы о гауссовым процессе с общим неизвестным матожиданием и различными известными дисперсиями. Оценивать среднее медианой - это будет уже какая-то другая гипотеза. Рассчитать ковариационную матрицу, чтобы обелить скорректированные измерения, не получится. Скорее всего, придётся анализировать гипотезу о совместном распределении вероятности общего вида, а не гауссову, чтобы построить искомый вероятностный тест.

А вот априорное знание про распределение мю может усилить тест в рамках гауссовой гипотезы.

[AndreyL]

realeugene в сообщении #1612169 писал(а):

А вот априорное знание про распределение мю может усилить тест в рамках гауссовой гипотезы.

Дисперсия мю ничтожно мала по сравнению с дисперсией измерений, можно считать, что оцениваемое мю не является случайной величиной. Т.е. по смыслу это не оценка среднего по выборке, а оценка неслучайного значения с помощью случайных величин. Насколько я понимаю, поскольку сами измерения являются случайными величинам, то все уравнения сохраняются, просто в них вкладывается другой смысл. Или я не прав?

[realeugene]

AndreyL в сообщении #1612171 писал(а):

Дисперсия мю ничтожно мала по сравнению с дисперсией измерений

Если вы знаете мю - то зачем его вам измерять? Подставьте в результат. А если не знаете - то тогда и дисперсия его распределения вероятности для вас большая. Гораздо больше дисперсии измерений. Вообще, метод оценивания MMSE для неслучайного параметр эквивалентен MAP для случайного параметра при условии равномерности его априорного распределения в окрестности реализовавшегося значения.