MNIST挑战:目标是在MNIST数据上实现参数少于10k的模型并在10个周期内获得超过99%的精度 源码

MNIST挑战: 在MNIST数据上实现参数少于10000个的模型,并在10个周期内获得超过99%的精度 该解决方案在带有张量流后端的Keras中实现。 ADAM用作初始学习率为1e-3的优化器。 分类交叉熵被用作损失函数,而准确性被用作度量。 有一个学习率调度器,可以将学习率降低一个因数,如果与第n次运行相比验证准确性没有提高,并且在最近3个时期中学习率没有降低,则可以定制该因数。 但是,这里不使用它,因为该因子保持为1。 解决方案1:卷积模型 总参数:8,640可训练参数:8,580非可训练参数:60 使用大小为7×7和5×5的较大内核,因为信息在映像中全局分布,而不是局部分布。 测试仪的准确度:99.2%现在已经达到了目标,请尝试将参数减少到少于5k。 解决方案2:可分离卷积模型 总参数:4,967可训练参数:4,879非可训练参数:88使用尺寸为3×3的较小内核,但具有许多通道。