Гармонический МНК

[Osmiy]

Возникла у меня такая потребность:
Аппроксимировать дискретный сигнал из $N$ равноудаленных выборок, где $N=1000-10000$, обычными гармониками, т.е. суммой из $M$ функций типа $ A\cos(wi)+B\sin(wi)$, где $M=30-50$. Причем круговые частоты не обязаны быть кратны основному периоду (это для того, чтобы можно как можно при меньшем $M$ лучше опроксимировать сигнал).
Естесственно выбрал метод МНК. Составил выражение для суммы квадратов отклонений. Взял производные по $A$ и $B$. Получается СЛАУ из $2M$ уравнений с $2M$ неизвестными. При заданых частотах коэф-ты $A$ и $B$ нахожу при помощи метода Гаусса.
Для определения частот успользую итеррационный могомерный метод Ньютона. Вобщем что я могу сказать (сам я не математик). Сходимость не квадратичная. Сумма квадратов минимизируется плавно, причем на определенных итеррациях происходят скачки как вверх так и вниз, т.е. слишком много и рядом расположенных локальных минимумов и происходит перепригывание.
Никакой практической пользы для моего случая нет (хотя аппроксимация худо, но есть), а очень жаль.
Вобщем может кто подскажет методические пособия или теоретические сведения по данной тематике. Обычные учебники по численным методам я читал, мне нужно именно по "Гармоническому МНК". Было бы не плохо, если бы существовал какой-нибудь имперический метод для расчета тех самых частот, которые можно было использовать как начальное приближение при оптимизации, в результате которой решение было бы близко к глобальному минимуму.

[Deggial]

Тема перемещена из форума «Математика (общие вопросы)» в форум «Карантин»
Причина переноса: формулы не оформлены ТеХом

Наберите формулы ТеХом. Инструкции по оформлению формул здесь или здесь (или в этом видеоролике).
После исправлений сообщите в теме Сообщение в карантине исправлено, и тогда тема будет возвращена.

[Toucan]

Тема перемещена из форума «Карантин» в форум «Помогите решить / разобраться (М)»

[Евгений Машеров]

Ну, я бы начал с Фурье. Причём не ко всему отрезку данных, а разбив его на участки, в каждом из которых ожидается несколько периодов самой низкой частоты, и усреднив спектры (ну и окна можно использовать, и перекрытие). И по спектру оценить частоты.
Или же авторегрессией.

[Александрович]

А какая цель этой аппроксимации?

[Osmiy]

Александрович в сообщении #691529 писал(а):

А какая цель этой аппроксимации?

Минимальным числом параметров аппроксимировать реальный аудиосигнал. Использовать намереваюсь в аудиокодеке.

-- 05.03.2013, 21:56 --

Евгений Машеров в сообщении #691504 писал(а):

Ну, я бы начал с Фурье. Причём не ко всему отрезку данных, а разбив его на участки, в каждом из которых ожидается несколько периодов самой низкой частоты, и усреднив спектры (ну и окна можно использовать, и перекрытие). И по спектру оценить частоты.
Или же авторегрессией.

Не думаю, что это будет работать. Вообще-то я думал, что по этой тематике есть теоретические и практические нароботки.

[VPro]

Osmiy в сообщении #691287 писал(а):

Возникла у меня такая потребность:
Аппроксимировать дискретный сигнал из $N$ равноудаленных выборок, где $N=1000-10000$, обычными гармониками, т.е. суммой из $M$ функций типа $ A\cos(wi)+B\sin(wi)$, где $M=30-50$. Причем круговые частоты не обязаны быть кратны основному периоду (это для того, чтобы можно как можно при меньшем $M$ лучше опроксимировать сигнал)...

Смотрите метод Прони, который позволяет решить задачу именно в вашей постановке: аппроксимация сигнала суммой произвольных экспонент.

[Osmiy]

VPro в сообщении #691559 писал(а):

Смотрите метод Прони

Мне нужно именно аппроксимация гармониками.

[VPro]

Osmiy в сообщении #691580 писал(а):

VPro в сообщении #691559 писал(а):

Смотрите метод Прони

Мне нужно именно аппроксимация гармониками.

Вы ее и получите. Открою тайну: гармоники (синусы и косинусы) это разновидность экспоненты. Я уже давал здесь ссылку (спасибо Евгению Машерову за его сайт): См С.Л. Марпл-младший. Цифровой спектральный анализ и его приложения. ( со стр. 365). Обратите внимание на модифицированный метод Прони (стр. 376)

[Osmiy]

Вот что я подумал если взять, например, $N=1000$ и $M=1000000$ ($N$- кол-во выборок, $M$- кол-во гармоник; по сути это уже будет не аппроксимация, а спектр. анализ), то чему будет равна разрешающая способность $\frac {2\pi}{N}$ или $\frac {2\pi}{M}$ ?

[Евгений Машеров]

И авторегрессия, и Фурье в реальных аудиокодеках применялись (первое даже с успехом, для второго надо бы стационарный сигнал).

[Евгений Машеров]

Вообще, раз уж тут мой сайт упомянули - dsp-book.narod.ru
Увы, давно не обновлял, поскольку достиг максимума объёма, а в связи с последними реорганизациями Яндекса - может, и вовсе погибнет.

[VPro]

Евгений Машеров в сообщении #691924 писал(а):

Вообще, раз уж тут мой сайт упомянули - dsp-book.narod.ru
Увы, давно не обновлял, поскольку достиг максимума объёма, а в связи с последними реорганизациями Яндекса - может, и вовсе погибнет.

Очень жаль. Часто пользуюсь для справок. И, в этой связи, хотелось бы там увидеть кнопочку "скачать все".

[lsy]

На сайте http://www.pselab.ru есть программа, в которой реализована возможность разложить сигнал на неортогональные синусоиды (комплексные экспоненты) методом, который вы описали выше и методом Прони. Программа неплохая, а самое главное, что она бесплатна изначально. С ней вы сможете разобраться подходит вам этот метод или не стоит с ним возиться дальше. Также этот метод хорошо описан в работах Дмитриева Е.В. (http://short-signal-sp.pochta.ru/), где есть много формул для реализации метода, но нет работающей программы.

[Евгений Машеров]

Боюсь, сайт помер окончательно под напором инноваторов, модернизаторов и эффективных менеджеров. Пытаюсь восстановить, но...