Pruning Filter in Filter:筛选器中的修剪筛选器(NeurIPS2020) 源码

过滤器中的修剪过滤器 介绍 这是NeurIPS 2020论文“”的PyTorch实施。 在本文中: 我们提出了一种新的修剪模式,称为条带化修剪(SP),可以将其视为过滤修剪(FP)的一般情况。 SP将过滤器$ F \ in \ mathbb {R} ^ {C \ timesK \ times}}视为$ K \ timesK $条带(即,$ 1 \ times $$过滤器$ \ in \ mathbb {R} ^ c $),并以条带为单位而不是整个过滤器执行修剪。 与现有方法相比,SP具有比传统FP更好的粒度,同时比Weight-Pruning更加硬件友好,并且与Group-wise Pruning相比保持了过滤器之间的独立性,从而在CIFAR-10和ImageNet上实现了最先进的修剪率。 更令人振奋的是,通过应用SP,我们发现过滤器的另一个重要特性与重量无关:形状。 从随机初始化的R