должно быть так?
я просто перепробывал уже всё. поэтому даже без ifft получился код..
Нужно не гадать, нужно понимать что делаешь.
Смазаное изображение, дополняем нулями на величину размера фильтра.
Фильтр, дополняем нулями на величину изображения.
Считаем FFT и от того и от другого.
Делим поэлементно FFT изображения на FFT фильтра.
Считаем IFFT.
Берем abs (на случай, если результат из-за ошибок округления будет комплексный).