Функция двух переменных заданная таблицей и её производные

[ewert]

Mr. Demetrius писал(а):

Разве методом наименьших квадратов можно аппроксимировать функцию двух переменных?

ewert, может быть, подскажите хорошую, на Ваш взгляд, статью на тему функций Тейлора?

1). Методом наименьших квадратов можно что угодно приблизить (прямо скажем -- чёрт-те чего можно приблизить (c) Булгаков). Только к Вашей задаче это не имеет никакого отношения. МНК предназначен для исключения (по мере возможности) погрешностей эксперимента за счёт их сглаживания. Но ведь Вы же сами говорили, что у Вас эти погрешности и так пренебрежимо малы.

2). Не функций Тейлора, а формул. И подсказать могу только любой стандартный учебник по курсу матанализа -- даже не важно какой.

[Mr. Demetrius]

ewert в сообщении #136010 писал(а):

1). Методом наименьших квадратов можно что угодно приблизить (прямо скажем -- чёрт-те чего можно приблизить (c) Булгаков). Только к Вашей задаче это не имеет никакого отношения. МНК предназначен для исключения (по мере возможности) погрешностей эксперимента за счёт их сглаживания. Но ведь Вы же сами говорили, что у Вас эти погрешности и так пренебрежимо малы.

Аппроксимировав методом наименьших квадратов мою таблицу я получу аналитическую запись функции, для которой смогу вычислять производные -> то, что мне нужно. Разве не так?

[ewert]

Mr. Demetrius писал(а):

Аппроксимировав методом наименьших квадратов мою таблицу я получу аналитическую запись функции, для которой смогу вычислять производные -> то, что мне нужно. Разве не так?

Ну какую-то аппроксимацию для производных Вы получите, конечно. Но: насколько адекватную?...

МНК принято применять в ситуации, когда количество параметров много меньше количества точек отсчёта. Ну, допустим, у Вас сетка десять на десять (т.е. всего сто узлов), приближаете же Вы эти данные многочленом с десятком параметров (т.е., грубо говоря, квадратичным-кубическим). Если Ваши отсчёты "точные", то применение МНК их заведомо загрубит, а уж о каких-то производных и говорить не приходится.

Можно, конечно, пытаться применить МНК с количеством параметров, равным количеству отсчётов. Но это совершенно бессмысленно: во-первых, это будет просто интерполяция, а во-вторых, процедура численно совершенно неустойчива.

Если Ваши отсчёты действительно претендуют на точность -- то тут нужен никакой не глобальный МНК, а какой-нибудь вариант кусочной интерполяции (т.е. для каждой точки проведение интерполяции по небольшому количеству соседних узлов). И снова: на какой порядок точности на выходе Вы расчитываете? Если Вас этот вопрос не волнует, а хочется получить просто нечто правдоподобное, то линейной интерполяции (о которой тут уже несколько раз говорилось) вполне достаточно.

[Someone]

Существуют же стандартные методы численного дифференцирования, которые рассматриваются в многочисленных курсах численных методов. Конечно, они основаны на какой-то аппроксимации функции, но в конце-концов всё сводится к комбинациям значений в узлах, поэтому нет необходимости каждый раз строить аппроксимацию в явном виде. Почему бы их не использовать?

[Eugeen1948]

Narn писал(а):

Eugeen1948 писал(а):

Как можно имея нейросеть, аппроксимирующую какую либо функцию F(x), получить частные производные dF(x)/dx, d2F(x)/dx2?

Так я не понял - у Вас же функция одной переменной, от которой Вы вычисляете первую и вторую производную, судя по обозначениям?

F(x) - вообще считается функцией от вектора х, и всё далее справедливо для функции многих переменных. Ведь нейросеть (НС) фактически аппроксимирует произвольно-табличную функцию многих переменных.

[Mr. Demetrius]

Someone в сообщении #136017 писал(а):

Существуют же стандартные методы численного дифференцирования, которые рассматриваются в многочисленных курсах численных методов.

Не подскажете эти методы?

ewert в сообщении #136013 писал(а):

Можно, конечно, пытаться применить МНК с количеством параметров, равным количеству отсчётов. Но это совершенно бессмысленно: во-первых, это будет просто интерполяция, а во-вторых, процедура численно совершенно неустойчива.

МНК - по своей сути и есть один из методов интерполяции. С каким бы количеством параметров он ни использовался - он интерполяцией и останется.

ewert в сообщении #136013 писал(а):

И снова: на какой порядок точности на выходе Вы расчитываете?

Я хочу получить результат с максимальной возможной точностью. А на какую ещё точность можно расчитывать?

Я на первой странице этой темы попросил подсказать метод. Мне подсказали: МНК. Подскажите более точный метод, кроме использования формул Тейлора. Частичную-же интерполяцию я в некотором роде рассматривал в свём третьем сообщении этой темы: она реализуется с помощью использования градиентных масок. Самый распространённый вариант - маска Собеля. И я сразу же уточнил, что меня этот метод не устраивает...

P.S. Разговор пошёл в напряжённой форме, Вы не находите? Давайте не будем слишком нервничать. Это же форум...

[Someone]

Mr. Demetrius в сообщении #136027 писал(а):

Не подскажите эти методы?

Л.И.Турчак. Основы численных методов. Москва, "Наука", 1987.

В пункте 6, § 1 главы 3, приведено много формул для частных производных первого и второго порядка.

[Алексей К.]

Человек, спешивший на день рождения, успел заявить о скупости и малозначимости своих суждений. Человек, вернувшийся с оного, также требует снисходительности, по другим причинам.

Mr. Demetrius писал(а):

МНК - по своей сути и есть один из методов интерполяции. С каким бы количеством параметров он ни использовался - он интерполяцией и останется.

Не согласен. Толком аргументировать пока не могу --- но вспомним первоисточник --- "метод максимального правдоподобия".

Представим себе две задачки:
(1) Вы заподозрили, что нвпряжение на концах проводника пропорционально току. Измерения делаем не только при разных напряжениях, но и при разных длинах куска проволоки (надеемся, однородной). Или при разных температурах (это я впариваю вторую переменную, весьма искусственно, ибо если уж можно не впаривать вторую, то не надо!). Надо гипотезу проверить.

(2) Токарь окружность радиуса $R$ выпиливал, а Вам надо проверить качество. По измерениям координат (машинкой ли, координатным микроскопом ли).

(3) Украли мы у американцев дивайс офигенный, и надо воспроизвести. Заковыристую детальку всю обмерили (с точностью, как нам кажется, 1 мкм), а в станок с ЧПУ подать надо какую-то модельку. Он, скажем, согласен даже на NURBSы. При построении модели в этом случае возникнет ещё и задача сглаживания.

(Ой, три задачи получилось) Методы всюду разные (совсем или не совсем). Вот почему собеседники пристают к Вам со всякими вопросиками.

Mr. Demetrius писал(а):

Я на первой странице этой темы попросил подсказать метод. Мне подсказали: МНК.

Подсказали наспех, не успев вникнуть в детали, и сделав соответствующую оговорку.

Mr. Demetrius писал(а):

P.S. Разговор пошёл в напряжённой форме, Вы не находите? Давайте не будем слишком нервничать. Это же форум...

Я пока не нашёл (прямо скажу, в кроватку хочу, и лень всё внимательно перечитывать). Но помню, что на днях ewertа (в Дискуссиогных темах) вообще в хамстве обвинили, а я как ни искал --- крамолы в его сообщениях не нашёл. Это кажется. Это просто следствие общения незнакомых людей.

Не, сам не раз попадал --- пишу, исполненный добродушия к человеку (кому, как не мне знать об этом), а в ответ --- "А! Так Вы считаете меня непрофессионалом! Ну так исчите себе..." итд.
Общение с незнакомыми людьми (на форумах, в частности) требует некого пере... sorry_не_знаю_чего.

[Mr. Demetrius]

Someone в сообщении #136028 писал(а):

Л.И.Турчак. Основы численных методов. Москва, "Наука", 1987.
В пункте 6, § 1 главы 3, приведено много формул для частных производных первого и второго порядка.

Спасибо, буду изучать.

Алексей К. в сообщении #136032 писал(а):

Подсказали наспех, не успев вникнуть в детали, и сделав соответствующую оговорку.

Ну, теперь я деталей больше предствил? Может, какой-то другой метод теперь подскажете, кроме тех, что уже описали?

Алексей К. в сообщении #136032 писал(а):

Не, сам не раз попадал --- пишу, исполненный добродушия к человеку (кому, как не мне знать об этом), а в ответ --- "А! Так Вы считаете меня непрофессионалом! Ну так исчите себе..." итд.

В данном вопросе я сам себя считаю непрофессионалом, потому что, если бы я был профессионалом в данном вопросе, я бы не задавал таких вопросов С подобными задачами я раньше никогда не сталкивался, поэтому мне ценны любые советы.

[Mr. Demetrius]

Хорошо, давайте вернёмся таки к формуле Тейлора. Я более-менее изучил эту тему. Разобрал способ, предложенный ewert, осознал. Ясно всё, кроме единственного момента: для вычисления нужной мне производной первого порядка требуется вычислить производную третьего порядка в точке "кси". А как это сделать???

[worm2]

Не "вычислить", а "оценить"!
В этом вся соль методов типа Тэйлора: они молчаливо (или не очень молчаливо) предполагают, что старшая (в данном случае третья) производная существует и не очень велика по модулю и оценки дают в её терминах. Если в Вашем случае такая хорошая оценка из каких-то соображений может быть получена, то ура! Считайте, что у Вас всё получилось. А если нет? Тогда, строго говоря, увы! Проиллюстрирую таким примером: почему бы Вашей функции не равняться нулю всюду кроме табличных точек?
Пример предельно утрирован, но даёт представление о том, что какие-то априорные сведения должны быть, чтобы иметь возможность оценивать точность вычисления чего бы то ни было.

Добавлено спустя 1 минуту 51 секунду:

Об этом ещё Narn писал(а):

Да, кстати, а уточнить постановку задачи можно? В каких именно точках задана функция? Что о ней известно (из какого она класса, например)?

Имелся в виду ответ выглядящий примерно таким образом: из класса $C^5[\Omega]$, где $\Omega$ --- область, в которой функция определена, а $C^5$ означает, что функция имеет все частные производные до 5-й включительно (подразумевается, что эти производные к тому же "не слишком велики", т.е. известны "хорошие" оценки их модулей, к примеру, $|f_{xxxyy}|<10$ и т.п.). Тогда всё хорошо.

[Mr. Demetrius]

worm2 в сообщении #136161 писал(а):

В этом вся соль методов типа Тэйлора: они молчаливо (или не очень молчаливо) предполагают, что старшая (в данном случае третья) производная существует и не очень велика по модулю и оценки дают в её терминах. Если в Вашем случае такая хорошая оценка из каких-то соображений может быть получена, то ура! Считайте, что у Вас всё получилось.

Хм, ну допустим. Как мне получить эту оценку? И потом. Оценка, насколько я понимаю, установит границы для этой производной третьего порядка, промежуток. Какое в конечном счёте значение я должен буду взять из этого промежутка?

[ewert]

Mr. Demetrius писал(а):

Хм, ну допустим. Как мне получить эту оценку? И потом. Оценка, насколько я понимаю, установит границы для этой производной третьего порядка, промежуток. Какое в конечном счёте значение я должен буду взять из этого промежутка?

Никакое. Практически эта оценка производной никогда не доступна, и вся полезная информация, которую можно извлечь из неё -- это что с уменьшением шага $h$ погрешность будет убывать примерно как соответствующая степень этого шага. (Естественно, при условии достаточной гладкости приближаемой функции.) Но и это с точки зрения приложений уже очень немало.

С другой стороны: на основе подобных якобы "явных" оценок иногда можно сочинить более продвинутые методы, более высокого порядка точности.

[worm2]

Mr. Demetrius в сообщении #136163 писал(а):

Как мне получить эту оценку?

Математика здесь Вам не поможет. Только из "физических соображений", "здравого смысла", какого-то обобщения опыта и т.п. И никак иначе.
Также, как математика ничего не может сказать, например, о том, какова вероятность выпадения хотя бы одного "орла" при нескольких бросаниях монеты. Вы должны "снаружи" постулировать теории вероятностей, что исход является случайным, исходов всего два, они равновероятны и независимы друг от друга. Только тогда она "заработает".

Mr. Demetrius писал(а):

Оценка, насколько я понимаю, установит границы для этой производной третьего порядка, промежуток. Какое в конечном счёте значение я должен буду взять из этого промежутка?

В простейшем случае --- максимальное по модулю. Ну, или в более сложных --- какое-то другое, например, среднеквадратичное. Это не принципиально.

[Mr. Demetrius]

Хм... Тогда я вообще не понимаю смысла этой формулы:

Как я смогу получить значение производной первого порядка (которая мне и нужна, из-за которой я и морочусь со всем этим), если я никак не смогу получить значение остатка (производной третьего порядка)?

Добавлено спустя 10 минут 26 секунд:

worm2 в сообщении #136161 писал(а):

производная существует и не очень велика по модулю

А что делать, если она окажется достаточно большой по модулю?