在傅立叶域中用内核卷积图像

Question

我在我的图像和卷积核周围使用零填充，将它们转换为傅里叶域，然后将它们反转回来以获得卷积图像，请参见下面的代码。然而，结果是错误的。我期待一个模糊的图像，但输出是四分之四的四分之一。为什么输出错误，如何修改代码？

输入图像：

卷积结果：

from PIL import Image,ImageDraw,ImageOps,ImageFilter
import numpy as np 
from scipy import fftpack
from copy import deepcopy
import imageio
## STEP 1 ##
im1=Image.open("pika.jpeg")
im1=ImageOps.grayscale(im1)
im1.show()
print("s",im1.size)
## working on this image array
im_W=np.array(im1).T
print("before",im_W.shape)
if(im_W.shape[0]%2==0):
im_W=np.pad(im_W, ((1,0),(0,0)), 'constant')
if(im_W.shape[1]%2==0):
im_W=np.pad(im_W, ((0,0),(1,0)), 'constant')
print("after",im_W.shape)
Boxblur=np.array([[1/9,1/9,1/9],[1/9,1/9,1/9],[1/9,1/9,1/9]])
dim=Boxblur.shape[0]

##padding before frequency domain multipication
pad_size=(Boxblur.shape[0]-1)/2
pad_size=int(pad_size)
##padded the image(starts here)

p_im=np.pad(im_W, ((pad_size,pad_size),(pad_size,pad_size)), 'constant')
t_b=(p_im.shape[0]-dim)/2
l_r=(p_im.shape[1]-dim)/2
t_b=int(t_b)
l_r=int(l_r)

##padded the image(ends here)

## padded the kernel(starts here)
k_im=np.pad(Boxblur, ((t_b,t_b),(l_r,l_r)), 'constant')
print("hjhj",k_im)
print("kernel",k_im.shape)

##fourier transforms image and kernel
fft_im = fftpack.fftshift(fftpack.fft2(p_im))
fft_k  = fftpack.fftshift(fftpack.fft2(k_im))
con_in_f=fft_im*fft_k
ifft2 = abs(fftpack.ifft2(fftpack.ifftshift(con_in_f)))
convolved=(np.log(abs(ifft2))* 255 / np.amax(np.log(abs(ifft2)))).astype(np.uint8)
final=Image.fromarray(convolved.T)
final.show()
u=im1.filter(ImageFilter.Kernel((3,3), [1/9,1/9,1/9,1/9,1/9,1/9,1/9,1/9,1/9], scale=None, offset=0))
u.show()

Answer 1

离散傅立叶变换 (DFT) 以及 FFT（计算 DFT）的原点都在 的第一个元素（对于图像，左上角的像素） 输入和输出。这就是我们经常在输出上使用fftshift函数的原因，以便将原点移动到我们更熟悉的位置（图像的中间）。

这意味着我们需要将一个 3x3 均匀加权模糊内核转换为如下所示，然后再将其传递给 FFT 函数：

1/9  1/9  0  0  ... 0  1/9
1/9  1/9  0  0  ... 0  1/9
  0    0  0  0  ... 0    0
...  ...               ...
  0    0  0  0  ... 0    0
1/9  1/9  0  0  ... 0  1/9

也就是说，内核的中间位于图像的左上角，中间上方和左侧的像素环绕并出现在图像的右端和底端。

我们可以使用 ifftshift 函数来做到这一点，在填充后应用于内核。填充内核时，我们需要注意原点（内核中间）位于内核映像 k_im 内的位置 k_im.shape // 2（整数除法）。最初原点位于 [3,3]//2 == [1,1]。通常，我们要匹配的图像大小是偶数，例如[256,256]。起点将在 [256,256]//2 == [128,128]。这意味着我们需要在左侧和右侧（以及底部和顶部）填充不同的量。我们需要小心计算这个填充：

sz = img.shape  # the sizes we're matching
kernel = np.ones((3,3)) / 9
sz = (sz[0] - kernel.shape[0], sz[1] - kernel.shape[1])  # total amount of padding
kernel = np.pad(kernel, (((sz[0]+1)//2, sz[0]//2), ((sz[1]+1)//2, sz[1]//2)), 'constant')
kernel = fftpack.ifftshift(kernel)

请注意，输入图像 img 不需要填充（尽管如果您想强制执行 FFT 成本较低的大小，则可以这样做）。也不需要在乘法之前对 FFT 的结果应用 fftshift，然后在之后立即反转这个移位，这些移位是多余的。仅当要显示傅里叶域图像时才应使用 fftshift。最后，对过滤后的图像应用对数缩放是错误的。

结果代码是（我用的是pyplot来显示，根本没有用PIL）：

import numpy as np
from scipy import misc
from scipy import fftpack
import matplotlib.pyplot as plt

img = misc.face()[:,:,0]

kernel = np.ones((3,3)) / 9
sz = (img.shape[0] - kernel.shape[0], img.shape[1] - kernel.shape[1])  # total amount of padding
kernel = np.pad(kernel, (((sz[0]+1)//2, sz[0]//2), ((sz[1]+1)//2, sz[1]//2)), 'constant')
kernel = fftpack.ifftshift(kernel)

filtered = np.real(fftpack.ifft2(fftpack.fft2(img) * fftpack.fft2(kernel)))
plt.imshow(filtered, vmin=0, vmax=255)
plt.show()

请注意，我采用的是反 FFT 的实部。虚部应仅包含非常接近零的值，这是计算中舍入误差的结果。取绝对值虽然很常见，但却是不正确的。例如，您可能想要对包含负值的图像应用滤镜，或者应用产生负值的滤镜。在这里取绝对值会产生人工制品。如果逆向 FFT 的输出包含与零显着不同的虚数值，则填充滤波内核的方式存在错误。

另请注意，此处的内核很小，因此模糊效果也很小。为了更好地查看模糊效果，请制作更大的内核，例如 np.ones((7,7)) / 49.

在傅立叶域中用内核卷积图像

Convolving image with kernel in Fourier domain

python

fft

image-processing

convolution

scipy