Я исхожу из того, что

конечна, как Вы и сказали.
В области

доопределяем

нулём.
Рассмотрим в качестве новой области шар

с центром в нуле такого радиуса

, чтобы

была внутри шара. Ясно, что интеграл по

будет тем же, что и по

.
Пусть

Доказываем или опираемся как на известный факт, что тогда

.
Поэтому исходный интеграл

можно записать в виде:

Начиная с этого места, вместо

будем писать

. Используем
первую формулу Грина:

, в которой положим

:

Устремим

к бесконечности, получим:

Первый интеграл, очевидно, неотрицательный, а второй -- надо доказать, что стремится к нулю при

. Нестрого:

ведет себя на бесконечности как

,

-- как

, их произведение -- как

, в то время как площадь сферы растет только как

, поэтому все должно получиться.