После длительных раздумий...
Эту задачу лучше разбирать в одномерном случае (для начала), тогда все становится ясно

и предел существует в силу фундаментальной теоремы анализа. Кстати, я ошибся, когда выписывал теорему Тейлора. Так как

, то интегрирование по частям можно применить только один раз:

Теперь, мне не ясно как можно доказать в многомерном случае что

существует?
Я не знаю как формализовать ваш аргумент :
После вычитания главной линейной части окажется

.
В многомерном случае теорема Тейлора имеет вид

и не ясно о каких

идет речь
Подскажите, где моя ошибка?