AliceMind:领先的NLP预训练语言模型体系
如果用炼钢来类比,以前要获得一个可用的NLP(Natural Language Processing,自然语言处理)应用模型,要从铁矿石开始炼钢,周期长、费用高、产量低。但现在有了开源的预训练语言模型,相当于有了现成的粗钢,只需把粗钢炼成所需的特定钢材,效率大为提升。因此目前在NLP领域,“预训练+精调”已成为新的范式。比如,拥有多语言、多模态、结构化等各种预训练语言模型的AliceMind,其掌握的语言超过100种,具有阅读、写作、翻译、问答、搜索、摘要生成、对话等各种能力。最近,深度语言模型体系AliceMind开源。AliceMind是一款预训练语言模型体系,在自然语言处理(NLP)领域,预训练语言模型正在受到越来越多的关注与青睐。之所以越来越热门,简单来说是因为传统自然语言处理模型不仅复杂而且用途单一,而预训练语言模型则有望将语言AI走向入可规模化复制的工业时代。 AliceMind主要包括通用语言模型StructBERT、多语言VECO、生成式PALM、多模态StructVBERT、结构化StructuralLM、知识驱动LatticeBERT、机器阅读理解。
下载地址
用户评论