Оценка ошибок параметров

[sithif]

Дана следующая модель:

$$ \begin{align*} x(n) = &\sum_{m=1}^{M} \left( c_m \cos(2\pi f_m n) + s_m \sin(2\pi f_m n) \right) + \varepsilon_x(n) \end{align*} $$

Как определить ошибки параметров для следующего случая:

$$ \begin{align*} x(n) = c_1 \cos(2\pi f_1 n) + s_1 \sin(2\pi f_1 n) + \bar \varepsilon_x(n) \end{align*} $$

если известно, что $\varepsilon_x(n) \sim N(0, \sigma_x)$, частота $f_1 = \hat f + \varepsilon_f$ и $\varepsilon_f \sim N(0, \sigma_f)$, а для параметров выполняется условие $c_1^2 + s_1^2 \gg c_2^2 + s_2^2 > \dots > c_M^2 + s_M^2 $.

Как я понимаю OLS в этом случае не подходит? Можно ли здесь использовать GLS или другой метод?

Для оценки параметров $c_1$ и $s_1$ также можно использовать DTFT формулы:

$$ \begin{align*} \hat c_1 = \frac{1}{N} \sum_{n=1}^{N} x(n) \cos(2 \pi f_1 n) \\ \hat s_1 = \frac{1}{N} \sum_{n=1}^{N} x(n) \sin(2 \pi f_1 n) \\ \end{align*} $$

для которых, например, $\hat c_1 = c_1$ при $N \to \infty$ и $f_1$ без ошибки (с ошибкой стремится к нулю).

Можно ли использовать эти формулы для определения ошибок как ошибку косвенных измерений?

[Евгений Машеров]

Отклонения частоты - случайные величины, разные в разных наблюдениях? Или речь о том, что частота постоянна, только известна с ошибкой?

[sithif]

Частота постоянна при измерении $x(1), \dots, x(N)$, в DTFT формулах используется ее оценка, которая известна с ошибкой $\hat f_1 = f_1 + \varepsilon_f$.
То есть, одно измерение дает $x(1), \dots, x(N)$ и $\hat f_1$.
Похоже, что здесь можно считать, что частота просто фиксированный параметр для одного измерения.
Тогда, у меня получается, $\textrm{Var}(c_1) \approx \frac{\sigma_x^2}{N} + \frac{\sigma_x^2 k(\hat f_1)}{N^2}$, где $ k(\hat f_1)^2 \le 1$, то есть в разброс вклада от ошибки частоты практически нет.
Вклад в оценку $\hat c_1 \approx c_1 - \pi s_1 N \varepsilon_f + \dots$ в первом порядке по $\varepsilon_f$, для больших $N$ оценка для стремится к нулю.

[Евгений Машеров]

Ну, если пренебречь ошибкой частоты - можно использовать обычные формулы для ошибок коэффициентов регрессионного анализа. Точное выражение потребует обращения матрицы $X^TX$, $\sigma^2(a)=\sigma^2(X^TX)^{-1}$, но в качестве приближения можно внедиагональные элементы считать нулевыми (они в пределе нулевые, при $N \rightarrow\infty$ или при специальном подборе частоты, вообще говоря ненулевые).
Ну и почему бы не уточнить частоту? Тут даже не тяжёлая артиллерия вроде Левенберга-Марквардта.

[sithif]

Евгений Машеров в сообщении #1512955 писал(а):

Ну и почему бы не уточнить частоту?

Каким образом?

Здесь частота определяется их тех же $x(1), x(2), ...$, точнее есть несколько таких наборов, которые получаются одновреммено.
Харакерный размер $x(1), x(2), ...$ для определения частоты несколько тысяч.
В выборке не целое число колебаний, поэтому есть растекание в спектре.
Сама частота определяется из интерполированного спектра как максимум главного пика, при этом еще используется окно.
Частота, соответствующая максимальной амплитуде, однинаковая для всех, по этим данным определяется среднее и стандартное отклонение.
Типичное значение стандартно отклонения $10^-5 \dots 10^-6$.
Поэтому, как мне кажется, можно вычислить параметры для средней частоты и частоты со стандартными отклонениями и получить интервал для ошибки (плюс добавить сигму от случайного шума).

[Евгений Машеров]

Как нелинейную регрессию.
https://en.wikipedia.org/wiki/Non-linear_least_squares
Из книг - Демиденко, Линейная и нелинейная регрессии, Демиденко, Оптимизация и регрессия.
Нелинейная зависимость представляется разложением в ряд Тейлора (ограничиваясь первым членом) и считается поправка посредством вспомогательной регрессии (где регрессанд - отклонения наблюдаемого значения от полученного предыдущим приближением параметров, регрессоры - частные производные по параметрам, вычисленные в каждой точке наблюдения, получаемый вектор коэффициентов - поправка к параметрам модели).