以上是标准卷积、深度可分离卷积两者的速率差异,采用小型网络多轮运行得到的结果

总体而言,还是能看到速度较为明显的提升

不过具体项目中,仍然应该保持以消融的态度对待该方案(提速效果、最终模型表现)


补注:

1.首先该实验只基于小型网络做的简单测试,其效果不一定能套用到各类项目中

应当补充各类情景下的实验结果

2.其次,该方案理论上会影响性能,但具体影响的幅度和该幅度的影响因素都值得探索和实验

3.显存开销上同样值得探索和继续实验


其简单案例:

1
2
# 普通卷积(标准卷积)
nn.Conv2d(in_ch, out_ch, kernel_size=3, padding=1)
1
2
3
4
5
# 深度可分离卷积
nn.Sequential(
nn.Conv2d(in_ch, in_ch, kernel_size=3, padding=1, groups=in_ch), # depthwise
nn.Conv2d(in_ch, out_ch, kernel_size=1) # pointwise
)