AutoMLZero: 从无到有演化机器学习算法【Google大脑】.pdf

我们通过引入一个新的框架来证明这一点，该框架通过一个通用的搜索空间来显著减少人类的偏见。尽管这个空间很大，进化搜索仍然可以发现通过反向传播训练的两层神经网络。这些简单的神经网络可以通过在感兴趣的任务上直接进化而被超越，例如CIFAR-10变体，现代技术出现在顶级算法中，例如双线性交互、标准化梯度和加权平均。