SoftPool:近似指数最大池的代码 源码

使用SoftPool完善激活下采样 抽象的 卷积神经网络(CNN)使用合并来减小激活图的大小。这个过程对于局部实现空间不变性和增加后续卷积的接收场至关重要。池操作应最大程度地减少激活图中的信息丢失。同时,应限制计算和内存开销。为了满足这些要求,我们提出了SoftPool:一种快速有效的方法,可以对指数加权的激活求和。与一系列其他合并方法相比,SoftPool在下采样的激活图中保留了更多信息。更精细的下采样可导致更好的分类准确性。在ImageNet1K上,对于一系列流行的CNN架构,用SoftPool替换原始的合并操作会导致精度不断提高1-2%。我们还将在视频数据集上测试SoftPool以进行动作识别。再次,仅替换池层将一致地提高准确性,而计算负载和内存仍然受到限制。这些有利的特性使SoftPool成为当前合并操作(包括最大池和平均池)的绝佳替代品。 基于图像的池化。图像在高度和宽度上均进行