写代码实现卷积操作
一次面试失败得来的深刻教训，自己的学习太不扎实了，理论基础薄弱，一来真格就不会。其实这个问题之前在看面经的时候就有说到过，虽然理论弄明白了，但还是心存侥幸没有动手把代码写出来……
传统卷积运算是将卷积核以滑动窗口的方式在输入图上滑动，当前窗口内对应元素相乘然后求和得到结果，一个窗口一个结果。相乘然后求和恰好也是向量内积的计算方式，所以可以将每个窗口内的元素拉成向量，通过向量内积进行运算，多个窗口的向量放在一起就成了矩阵，每个卷积核也拉成向量，多个卷积核的向量排在一起也成了矩阵，于是，卷积运算转化成了矩阵乘法运算。下图很好地演示了矩阵乘法的运算过程：
将卷积运算转化为矩阵乘法，从乘法和加法的运算次数上看，两者没什么差别，但是转化成矩阵后，运算时需要的数据被存在连续的内存上，这样访问速度大大提升（cache），同时，矩阵乘法有很多库提供了高效的实现方法，像BLAS、MKL等，转化成矩阵运算后可以通过这些库进行加速。
缺点呢？这是一种空间换时间的方法，消耗了更多的内存——转化的过程中数据被冗余存储。
还有两张形象化的图片帮助理解：
太久没写python代码，面试的时候居然想用c++来实现，其实肯定能实现，但是比起使用python复杂太多了，所以这里使用python中的numpy来实现。
一、滑动窗口版本实现
#!/usr/bin/env python3 #加上这一句之后，在终端命令行模式下就可以直接输入这个文件的名字后运行文件中的代码
# -*- coding = utf-8 -*-
import numpy as np
# 为了简化运算，默认batch_size = 1
class my_conv(object):
def __init__(self, input_data, weight_data, stride, padding = 'SAME'):
self.input = np.asarray(input_data, np.float32)
self.weights = np.asarray(weight_data, np.float32)
self.stride = stride
self.padding = padding
def my_conv2d(self):
"""
self.input: c * h * w # 输入的数据格式
self.weights: c * h * w
"""
[c, h, w] = self.input.shape
[kc, k, _] = self.weights.shape # 这里默认卷积核的长宽相等
assert c == kc # 如果输入的channel与卷积核的channel不一致即报错
output = []
# 分通道卷积，最后再加起来
for i in range(c):
f_map = self.input[i]
kernel = self.weights[i]
rs = self.compute_conv(f_map, kernel)
if output == []:
output = rs
else:
output += rs
return output
def compute_conv(self, fm, kernel):
[h, w] = fm.shape
[k, _] = kernel.shape
if self.padding == 'SAME':
pad_h = (self.stride * (h - 1) + k - h) // 2
pad_w = (self.stride * (w - 1) + k - w) // 2
rs_h = h
rs_w = w
elif self.padding == 'VALID':
pad_h = 0
pad_w = 0
rs_h = (h - k) // self.stride + 1
rs_w = (w - k) // self.stride + 1
elif self.padding == 'FULL':
pad_h = k - 1
pad_w = k - 1
rs_h = (h + 2 * pad_h - k) // self.stride + 1
rs_w = (w + 2 * pad_w - k) // self.stride + 1
padding_fm = np.zeros([h + 2 * pad_h, w + 2 * pad_w], np.float32)
padding_fm[pad_h:pad_h+h, pad_w:pad_w+w] = fm # 完成对fm的zeros padding
rs = np.zeros([rs_h, rs_w], np.float32)
for i in range(rs_h):
for j in range(rs_w):
roi = padding_fm[i*self.stride:(i*self.stride + k), j*self.stride:(j*self.stride + k)]
rs[i, j] = np.sum(roi * kernel) # np.asarray格式下的 * 是对应元素相乘
return rs
if __name__=='__main__':
input_data = [
[
[1, 0, 1, 2, 1],
[0, 2, 1, 0, 1],
[1, 1, 0, 2, 0],
[2, 2, 1, 1, 0],
[2, 0, 1, 2, 0],
],
[
[2, 0, 2, 1, 1],
[0, 1, 0, 0, 2],
[1, 0, 0, 2, 1],
[1, 1, 2, 1, 0],
[1, 0, 1, 1, 1],
],
]
weight_data = [
[
[1, 0, 1],
[-1, 1, 0],
[0, -1, 0],
],
[
[-1, 0, 1],
[0, 0, 1],
[1, 1, 1],
]
]
conv = my_conv(input_data, weight_data, 1, 'SAME')
print(conv.my_conv2d())二、矩阵乘法版本实现
#!/usr/bin/env python3 #加上这一句之后，在终端命令行模式下就可以直接输入这个文件的名字后运行文件中的代码
# _*_ coding = utf-8 _*_
import numpy as np
# 为了简化运算，默认batch_size = 1
class my_conv(object):
def __init__(self, input_data, weight_data, stride, padding = 'SAME'):
self.input = np.asarray(input_data, np.float32)
self.weights = np.asarray(weight_data, np.float32)
self.stride = stride
self.padding = padding
def my_conv2d(self):
"""
self.input: c * h * w # 输入的数据格式
self.weights: c * h * w
"""
[c, h, w] = self.input.shape
[kc, k, _] = self.weights.shape # 这里默认卷积核的长宽相等
assert c == kc # 如果输入的channel与卷积核的channel不一致即报错
# rs_h与rs_w为最后输出的feature map的高与宽
if self.padding == 'SAME':
pad_h = (self.stride * (h - 1) + k - h) // 2
pad_w = (self.stride * (w - 1) + k - w) // 2
rs_h = h
rs_w = w
elif self.padding == 'VALID':
pad_h = 0
pad_w = 0
rs_h = (h - k) // self.stride + 1
rs_w = (w - k) // self.stride + 1
elif self.padding == 'FULL':
pad_h = k - 1
pad_w = k - 1
rs_h = (h + 2 * pad_h - k) // self.stride + 1
rs_w = (w + 2 * pad_w - k) // self.stride + 1
# 对输入进行zeros padding，注意padding后依然是三维的
pad_fm = np.zeros([c, h+2*pad_h, w+2*pad_w], np.float32)
for i in range(c):
pad_fm[i, pad_h:pad_h+h, pad_w:pad_w+w] = self.input[i]
# 将输入和卷积核转化为矩阵相乘的规格
mat_fm = np.zeros([rs_h*rs_w, kc*k*k], np.float32)
mat_kernel = self.weights
mat_kernel.shape = (kc*k*k, 1) # 转化为列向量
row = 0
for i in range(rs_h):
for j in range(rs_w):
roi = pad_fm[:, i*self.stride:(i*self.stride+k), j*self.stride:(j*self.stride+k)]
mat_fm[row] = roi.flatten() # 将roi扁平化，即变为行向量
row += 1
# 卷积的矩阵乘法实现
rs = np.dot(mat_fm, mat_kernel).reshape(rs_h, rs_w)
return rs
if __name__=='__main__':
input_data = [
[
[1, 0, 1, 2, 1],
[0, 2, 1, 0, 1],
[1, 1, 0, 2, 0],
[2, 2, 1, 1, 0],
[2, 0, 1, 2, 0],
],
[
[2, 0, 2, 1, 1],
[0, 1, 0, 0, 2],
[1, 0, 0, 2, 1],
[1, 1, 2, 1, 0],
[1, 0, 1, 1, 1],
],
]
weight_data = [
[
[1, 0, 1],
[-1, 1, 0],
[0, -1, 0],
],
[
[-1, 0, 1],
[0, 0, 1],
[1, 1, 1],
]
]
conv = my_conv(input_data, weight_data, 1, 'SAME')
print(conv.my_conv2d())１、im2col：将卷积运算转为矩阵相乘 ２、面试基础--深度学习 卷积及其代码实现
By Yee 2020.05.10