Сумма косинусов и оптимизация

[embi]

Добрый день! Допустим, есть функция суммы косинусов с разными частотами и фазами:

$F_1(t) = A_1\cos(\omega_1t+\varphi_1) + A_2\cos(\omega_2t+\varphi_2) + ... + A_k\cos(\omega_kt+\varphi_k)$.

Требуется найти такие параметры $X, Y, Z$ функции

$F_2(t) = X\cos(Yt+Z)$,

чтобы минимизировать сумму квадратов отклонений значений этих функций:

$\sum\limits_{t=1}^{N}(F_1(t)-F_2(t))^2$.

Иными словами: как найти параметры косинусоиды, чтобы аппроксимировать функцию суммы косинусоид? Есть ли решение в общем виде?

Примечание: целевая функция суммы квадратов отклонений не является единственно возможной; рассматриваются и другие варианты.

[wrest]

embi
Получается вы как-бы хотите выделить один "наиболее подходящий" чистый тон из многотонального сигнала.
Мне кажется, что просто надо взять максимальную амплитуду ($A_k$), и из этого косинуса -- его частоту и фазу.

[DeBill]

embi
А что бы не сосчитать частные производные по $X,Y,Z$ да и приравнять их нулю?
Нерешабельное ур-е получится, однако....
А если в целевой функции заменить сумму интегралом? Та же фигня...
А градиентный метод? Что то он даст, да только - никаких гарантий....
Нда, мутная задача.

[embi]

wrest
Да, можно взять максимальную амплитуду, но результат неоптимальный. Можно простым перебором подобрать лучше.

DeBill
Да, уравнения по частным производным решаются крайне сложно, пока в явном виде не получил ответа.
Результат по градиентному методу очень сильно зависит от начальной точки, как оказалось, и вычислительно сложен для больших $k$.

[Евгений Машеров]

Подгоняйте авторегрессию второго порядка.

[embi]

Евгений Машеров, расскажите, пожалуйста, подробнее. Интересует не техника подгона, а концепция.

[Евгений Машеров]

Идея в общем виде простая. Решением возвратного уравнения $x_t=a_1x_{t-1}+\cdots+a_nx_{t-n}$ является сумма $\frac n 2$ синусоид (со сдвигом по фазе и, вообще говоря, затухающих или нарастающих по экспоненту). Оценив его параметры, можем решить вспомогательное уравнение
$z^n-a_1z^{n-1}-\cdots-z_n=0$, комплексные корни которого дадут нам частоты (как аргумент комплексных корней) и декременты затухания (логарифмы амплитуд).
Разные алгоритмы оценки (авторегрессия, через собственные значения и т.п.) дают разные методы оценки частот (подробнее, например, Марпл-мл., "Цифровой спектральный анализ" и другие книги). Достоинство и недостаток такого подхода состоят в том, что число пиков спектра у нас априори задано порядком модели. Это вносит элемент произвола, но позволяет получить параметры отдельных пиков точнее, чем через БПФ и тому подобное.
В частном случае Вашей задачи затухание отсутствует.
Пусть $y(t)=A\cos(Bt+C)$
Тогда можно найти
$y(t+1)=A\cos(Bt+C)\cos(B)-A\sin(Bt+C)\sin(B)$
$y(t-1)=A\cos(Bt+C)\cos(B)+A\sin(Bt+C)\sin(B)$
и $y(t+1)+y(t-1)=2A\cos(Bt+C)\cos(B)=2y(t)\cos(B)$
Что очевидным образом позволяет найти $\cos(B)$
После этого можно построить $x_1(t)=\cos(Bt)$ и $x_2(t)=\sin(Bt)$, затем регрессию y на $x_1, x_2$, откуда придти к амплитуде и фазе (или предпочесть оставить коэффициенты при косинусе и синусе, как удобнее).

[Евгений Машеров]

Тут никак не используется то, что это "сумма косинусов", работает в общем случае. Хотя если сигнал не содержит такой составляющей - будет бред.
Возможно, это удастся обыграть, принимая при оценивании отклонения не нормально распределёнными (что даёт наименьшие квадраты), а учитывая, что отклонения порождены синусоидами иной частоты. Но конкретного алгоритма, это использующего, не знаю. Для МНК получается простенькая регрессия без свободного члена. Или можно через собственные значения матрицы корреляций сигнала в точке и среднего сигналов до и после точки.