Функция двух переменных заданная таблицей и её производные

[ewert]

Mr. Demetrius писал(а):

В таком случае, не могли бы вы разъяснить буквы формулы? Хотя бы, что такое h? Да и откуда берётся выражение, вычитающееся в конце?

$h$ -- это, естественно, $(x_{i+1}-x_i)$, т.е. расстояние между узлами.

Остаточные члены получаются довольно очевидным комбинированием формул Тейлора со сдвигом на плюс-минус шаг относительно центрального узла. Ну потом ещё надо использовать вариант теоремы о среднем, типа ${1\over2}\big(g(\xi_1)+g(\xi_2)\big)=g(\xi)$, где $g$ -- соответствующая производная.

[Mr. Demetrius]

До вычитания "остаточного члена" я вижу тот же способ, что предложил Narn в самом начале.

Что есть остаточный член, и откуда он берётся - понятия не имею, т.к. с "формулами Тейлора" не знаком.

[ewert]

Mr. Demetrius писал(а):

До вычитания "остаточного члена" я вижу тот же способ, что предложил Narn в самом начале.

Что есть остаточный член, и откуда он берётся - понятия не имею, т.к. с "формулами Тейлора" не знаком.

Странно, конечно. Но -- демонстрирую. На примере 1-й формулы.

Берём простейшие формулы Тейлора с остаточными членами в форме Лагранжа:

$$\begin{cases} f(x_{i+1})=f(x_{i})+f'(x_{i})\cdot h+f''(x_{i})\cdot{h^2\over2}+f'''(\xi_1)\cdot{h^3\over6}\;; \\ f(x_{i-1})=f(x_{i})-f'(x_{i})\cdot h+f''(x_{i})\cdot{h^2\over2}-f'''(\xi_2)\cdot{h^3\over6}. \end{cases}$$

Вычитаем, делим на два аш, переносим всё с "кси" в левую часть и получаем обещанную формулу с остаточным членом вида

$$ -{h^2\over12}\big(f'''(\xi_1)+f'''(\xi_2)\big)=-{h^2\over6}\cdot f'''(\xi)\;. $$

[Mr. Demetrius]

Спасибо за ваш труд. К сожалению, в отличие от вас, мне этот метод и формулы кажутся сложными: как сами по себе, для понимая, так и в реализации.

Я решил остановиться на методе наименьших квадратов.

Остался, наверное, единственный вопрос: может быть, существует метод интерполяции не намного более сложный, чем МНК, но дающий меньшую погрешность?

[bubu gaga]

Mr. Demetrius писал(а):

Что есть остаточный член, и откуда он берётся - понятия не имею, т.к. с "формулами Тейлора" не знаком.

http://en.wikipedia.org/wiki/Taylors_theorem

Откуда берутся данные на Вашей сетке? Наблюдения? Итерации? Точны ли эти числа? Предпологается ли какая-то общая форма для функции? Что описывает эта функция? Мне почему-то не удаётся представить ситуацию, при которой конечные разности и МНК были бы субститутами.

[Mr. Demetrius]

bubu gaga в сообщении #135983 писал(а):

Откуда берутся данные на Вашей сетке? Наблюдения?

Я бы сказал: измерения прибором.

bubu gaga в сообщении #135983 писал(а):

Точны ли эти числа?

Точны.

bubu gaga в сообщении #135983 писал(а):

Что описывает эта функция?

В каком смысле? Просто функция двух переменных: каждой паре чисел x и y она ставит в соответствие единственное значение z.

bubu gaga в сообщении #135983 писал(а):

Предпологается ли какая-то общая форма для функции?

В моём случае в таблице аргументы представлены натуральными числами. Соответствующие значения также.

[ewert]

Mr. Demetrius писал(а):

Я бы сказал: измерения прибором.
. . . . . . . . . . . .

bubu gaga в сообщении #135983 писал(а):

Точны ли эти числа?

Точны.

Явное противоречие.

[Mr. Demetrius]

ewert в сообщении #135987 писал(а):

Явное противоречие.

Точность измерения прибором высока. В вычислениях можно считать, погрешность стремится к нулю - это не повлияет на результат.

[ewert]

Mr. Demetrius писал(а):

Точность измерения прибором высока. В вычислениях можно считать, погрешность стремится к нулю - это не повлияет на результат.

Точность измерения важна не сама по себе, а в сравнении с шагом между узлами.

Ну или если угодно: важно, чтобы разность между соседними отсчётами была много больше погрешности дискретизации.

Добавлено спустя 9 минут 39 секунд:

bubu gaga писал(а):

http://ru.wikipedia.org/wiki/Ряд_Тейлора

кстати сказать, ссылка крайне неудачна. Во-первых, она ни на какого Тейлора не выводит. Во-вторых, тут речь не о ряде, а о формуле Тейлора, а это идеологически всё же совершенно разные вещи.

[bubu gaga]

ewert писал(а):

кстати сказать, ссылка крайне неудачна. Во-первых, она ни на какого Тейлора не выводит. Во-вторых, тут речь не о ряде, а о формуле Тейлора, а это идеологически всё же совершенно разные вещи.

Формула Тейлора там дальше в тексте. Хотя я честно признаюсь, что у таких уж больших различий между рядом и формулой я не очень вижу. Не затруднит просветить?

[ewert]

Затруднит. Я честно пытался оживить Вашу ссылку, но как-то не вышло (копипаствованием-то она работала, а вот прямо никак). Не понимаю.

А разница простая. Ряд -- это сходимость частичных сумм, формула же -- асимптотическая при малых сдвигах. Т.е. имеются в виду совершенно разные предельные переходы, прямой связи между собой не имеющие. (Ну кой-какие связи есть, конечно, но это уже другой вопрос.)

[Narn]

Mr. Demetrius писал(а):

Я так понял, можно интерполяцией получить аналитическое представление двух функций: по x и по y. Производные по ним и будут частными производными в каждой точке. Или я ошибаюсь? Поправьте, пожалуйста, и подскажите наилучший по вашему мнению метод - я в вычислительной математике, к сожалению, не силён.

Не совсем так. Я тоже в ЧМ не силен, но поправлю то, что вижу.
Во-первых, интерполяция дает одну функцию, а не 2. У вас есть функция (как я понял, все-таки на прямоугольной сетке). Вы с помощью интерполяции строите функцию на всем прямоугольнике, которая в узлах сетки совпадает с Вашей и надеетесь, что ее производные мало отличаются от производных Вашей функции (о которой Вам известны лишь значения в узлах, но которая сама определена на том же прямоугольнике).

[Eugeen1948]

Mr. Demetrius писал(а):

Функция двух переменных задана не аналитическим способом (не формулой), а табличным: набор пар аргументов и соответствующих им значений этой функции. Существует ли способ находить частные производные для каждой из представленных пар аргументов?

Как можно имея нейросеть, аппроксимирующую какую либо функцию F(x), получить частные производные dF(x)/dx, d2F(x)/dx2?
Алгоритм обратного распространения, которым нейросеть обучается, эти производные и посчитает,
если на выход нейросети подать не производную целевой функции по выходному сигналу, а единичку.
Т.е. при обучении используется целевая функция H(F(x)), производные при обучении считаются
цепным правилом dH/dx=dH/dF*dF/dx, соответственно dF/dx сетка считать умеет, надо только на
dH/dF не домножать при цепном дифференцировании. (естественно, и dF/dx при бэкпропе тоже в
цепном виде расписывается, поскольку это сложная функция.

Про вторые производные, вычисление гессиана целевой функции по входам сети и вычисление
диагонали этого гессиана читайте обзор Buntine W.L., Weigend A.S. Computing Second Derivatives
in Feed-Forward Networks: A Review / IEEE Trans. on Neural Networks, 1994. Vol.5. N3. - pp.480-488.

[Narn]

Eugeen1948 писал(а):

Как можно имея нейросеть, аппроксимирующую какую либо функцию F(x), получить частные производные dF(x)/dx, d2F(x)/dx2?

Так я не понял - у Вас же функция одной переменной, от которой Вы вычисляете первую и вторую производную, судя по обозначениям?

[Mr. Demetrius]

Eugeen1948, эммм... С нейросетями отношений не имел, не имею и заводить опасаюсь...

Narn в сообщении #136005 писал(а):

Во-первых, интерполяция дает одну функцию, а не 2. У вас есть функция (как я понял, все-таки на прямоугольной сетке). Вы с помощью интерполяции строите функцию на всем прямоугольнике, которая в узлах сетки совпадает с Вашей и надеетесь, что ее производные мало отличаются от производных Вашей функции (о которой Вам известны лишь значения в узлах, но которая сама определена на том же прямоугольнике).

Каким из методов-то? Разве методом наименьших квадратов можно аппроксимировать функцию двух переменных?

ewert, может быть, подскажите хорошую, на Ваш взгляд, статью на тему функций Тейлора?