Аппроксимация суммой гауссовских функций

[mars13]

Есть набор экспериментальных данных $ \{(x_k, y_k)\}_{k=1}^{N}. $

Существуют ли какие-нибудь специальные методы для их аппроксимации функцией вида

$$ \sum_{i=1}^{n} A_{i} \exp(-b_{i}(x-a_{i})^2), $$

то есть как бы суммой гауссовских функций?

Как можно найти неизвестные параметры $ a_{i}, b_{i}, A_{i} $ ? МНК здесь вряд ли поможет, зависимости ведь нелинейные. Нет ли готовых научных исследований на эту тему? Если есть, скиньте пожалуйста ссылку.

В простейшем случае можно считать, что данные $ x_{k} $ (они имеют смысл времени) равноотстоящие, то есть образуют равномерную сетку на некотором отрезке (арифметическую прогрессию).

[Vince Diesel]

mars13 в сообщении #1296387 писал(а):

МНК здесь вряд ли поможет, зависимости ведь нелинейные.

Есть нелинейный МНК. Реализован во многих мат. пакетах. Некоторое обсуждение было здесь.

[VPro]

Положите $n=N$, $A_i=y_i$, $a_i=x_i$ и $b_i$ как можно большие.

[Mishka_Barni]

Для интерполяции в качестве $a_i$ можно взять $x_i$, $b_i$ равными положительной константе и решить линейную систему, не? Матрица будет не вырожденной. Такой же способ и для интерполяции в $\mathbb{R}^n$ должен пройти.

Я думаю вопрос отчасти связан с radial basis functions. Можно полистать H. Wendland Scattered Data Approximation по этому вопросу.

[Евгений Машеров]

В такой общей и неопределённой постановке советовать трудно. Какое число слагаемых принимается? (Если оно неограничено, можно дать тривиальный ответ, положив $a_i=x_i$, $A_i=y_i$ и $b_i=\infty$, с точки зрения что интерполяции, что понимания процесса бессмысленный). Что известно о возможных значениях a, b и A (ну, скажем, A любые или только положительные?). Насколько близки меж собой могут быть значения $b_i$ и как они соотносятся с периодом квантования $x_i-x_{i-1}$?
Работы по такого рода аппроксимации встречал
ftp://ftp.cs.wisc.edu/Approx/hangron.pdf
https://www.sciencedirect.com/science/a ... 3610000467
но такое впечатление, что там скорее общий подход, чем конкретный работающий алгоритм.
Линеаризующего преобразования, которое, как логарифм для степенной или экспоненциальной модели, сводило бы задачу к линейной (ценой порчи спецификации ошибки, что часто допустимо, но никогда не след забывать), для данной задачи я не знаю (если кто знает - поделитесь, крайне любопытно).
Если значения $a_i$ "редкие", в том смысле, что между соседними ожидается большое число отсчётов данных, можно попытаться аппроксимировать участок с i-тым значением гауссианом (прологарифмировать и подогнать квадратичную параболу, положение её максимума даст $a_i$, а коэффициент при квадрате позволит оценить $b_i$. Влияние соседних гауссианов будет сравнительно мало. Однако если данные окажутся отягощены ошибкой, малые значения после логарифмирования станут большими отрицательными, отражая более ошибку, чем истинное значение, а иногда отрицательное окажется под логарифмом. Желательно не проводить параболу по трём точкам, а подгонять по отрезку достаточной длины (но если взять слишком длинный - там окажется соседний гауссиан), возможно, прибегнув к робастным методам оценивания. Оценив a и b, оценить A уже можно обычной линейной регрессией, где регрессоры будут соотноситься с разными гауссианами, а их значения - со значениями гауссианов в точках $x_i$
Если такого "разнесения" не будет, задача сильно усложняется. Тут можно поискать в статистике, задача о разделении смесей распределений, (Estimation of Parameters for a Mixture of Normal Distributions), но там обычно подразумевается небольшое число слагаемых.
Нелинейный МНК существует, скажем, метод Левенберга-Марквардта (который состоит в том, что, имея начальное приближение для параметров регрессии, находим для выбранной нелинейной функции и этих параметров разность между наблюдаемыми значениями и вычисленными, которая становится регрессандом вспомогательной линейной модели, регрессорами же в ней значения производных этой функции в точках наблюдения при выбранных параметрах, тогда оцененный по вспомогательной модели вектор коэффициентов даст поправку к значениям параметров; поскольку матрица из производных часто оказывается мультиколлинеарна, расчёт регрессии загрубляется добавлением к диагонали положительных чисел, и если корреляционная матрица вырождена, получаем загрублённый, но осмысленный ответ вместо деления на ноль). Впрочем, можно и общими методами нелинейной оптимизации пользоваться, не востребовав специфику МНК.

[protonus]

Решение таких задач рассматривал академик Тихонов. Но у него очень сложно, для реализации на компьютере тяжеловато пробиться через лес формул. Работающий и простой итерационный алгоритм был разработан нами в восьмидесятых годах. В принципе возможно произвольную достаточно гладкую таблично заданную функцию описать гауссианами, если амплитуды гауссиан задавать как положительными, так и отрицательными. Короче говоря, смотрите описание алгоритма для положительных амплитуд в журнале Атомная энергия за 1982 год:
http://elib.biblioatom.ru/text/atomnaya ... 982/go,50/
Если возникнут вопросы, пишите Владиславу на ящик [e-mail]

[novichok2018]

Рассмотрению задач об именно таких приближениях и их приложениях посвящена книга Мазьи и Шмидта, см. , например, найденную в инете работу
https://www.bsu.edu.ru/upload/iblock/912/NOM3(2015).pdf
с. 130- 142,
и ссылки в ней,
или поищите сами поиском что то вроде "разложения по сдвигам функций Гаусса", "разложения по целочисленным сдвигам функций Гаусса" и подобное.