2018NIPSRelationalMemory.pdf

基于记忆的神经网络利用长时间记忆信息的能力来模拟时间数据。然而，目前还不清楚他们是否也有能力对他们记忆的信息进行复杂的关系推理。在这里，我们首先确认了我们的直觉，即标准的内存架构可能难以处理大量涉及实体连接方式的理解的任务。涉及关系推理的任务。然后，我们通过使用一个新的内存模块——关系内存核心(RMC)来改进这些缺陷，该模块使用多头点积注意力来允许内存交互。