互联网爱好者创业的站长之家 – 南方站长网
您的位置:首页 >业界 >

91.3分!京东织女Vega v1模型位居GLUE榜首

时间:2022-01-04 21:45:29 | 来源:21世纪经济报道

原标题:91.3分!京东织女Vega v1模型位居GLUE榜首

21世纪经济报道记者杨清清 综合报道

1月4日消息,在近日公布的全球自然语言处理领域顶级测试GLUE中,京东探索研究院联合悉尼大学、武汉大学以及北京航空航天大学组成梦之队(JDExplore Dream Team, d-team)参与其中,其提出的织女模型Vega v1以总平均分91.3分荣登榜首夺冠,超越同场竞技的微软、Facebook、斯坦福大学等企业和高校团队。

值得提及的是,测试中织女模型在九个子任务中的四个单项任务,即情感分类任务SST-2(The Stanford Sentiment Treebank)、语义相似度任务MRPC (Microsoft Research Paraphrase Corpus)、问句语义等价任务QQP(The Quora Question Pairs)和指代消解任务WNLI(winograd NLI)中均位列第一。

据了解,本次夺冠的织女模型Vega v1采用了“预训练-微调”范式,依托于多个重要预训练的技术创新实现突破,例如采用了高效节能的并行化训练框架以及数据利用方法,使用了数十亿参数量的创新模型架构、更好的自监督信号以及多粒度句子级表征等。

据介绍,未来还将考虑融合可信人工智能等技术对织女模型进行全面升级,让其不仅具有强大的文本理解能力,还能具备稳定性、可解释性、保护隐私、公平性等重要属性。

(作者:杨清清 编辑:李清宇)