kaggle quora question pairs:我对Kaggle Quora Question Pairs竞赛的解决方案(排名前2%私有LB对数损失0.

kaggle-quora-问题对 我对(排名前2%,私人LB对数损失0.13497)。 总览 该解决方案结合了纯统计功能,经典NLP功能和深度学习。 将近200种手工制作的特征与来自具有不同架构的4个神经网络的失意预测相结合。 最终模型是GBM(LightGBM),使用分层的K折交叉验证对它进行了早期停止训练并且学习率非常低。 复制解决方案 硬件要求 几乎所有代码(某些第三方脚本除外)都可以有效利用多核计算机。 同时,其中一些可能需要大量内存。 所有代码均已在具有64 GB RAM的计算机上进行了测试。 对于所有非神经笔记本电脑, c4.8xlarge AWS实例应表现出色。 对于神经网络