8月26日,阿里达摩院语言技术实验室取得一系列突破,斩获自然语言处理(NLP)领域6大权威技术榜单冠军。据介绍,参与竞赛的6项自研AI技术均采用模仿人类的学习模式,全方位提升了机器的语言理解能力,部分能力甚至已超越人类。目前,这些技术均已大规模应用于阅读理解、机器翻译、人机交互等场景。
据悉,过去几年,AI在图像识别、语音识别等方面已逐步超越人类水平,但在复杂文本语义的理解上,AI与人类尚有差距,其主要原因就是传统AI学习文本知识效率较低。
为此,业界提出了一种模仿人类的学习思路,即先让AI在大规模的网页和书籍文字中进行训练,学习基本的词法、语法和语义知识,然后再在固定领域内的文本上进行训练,学习领域专有知识。
这一思想就是预训练语言模型的核心创新。自Google提出模仿人类注意力机制的BERT模型以来,预训练语言模型已成为NLP领域的热点研究方向。
达摩院早在2018年就开始布局通用的预训练语言模型,并逐渐将该思路拓展到了多语言、多模态、结构化和篇章文本理解和文本生成领域,如今已建立一套系统化的深度语言模型体系,其自研通用语言模型StructBERT、多语言模型VECO、多模态语言模型StructVBERT、生成式语言模型PALM等6大自研模型分别刷新了世界纪录。

达摩院自研模型位居GLUE榜单第一名
其中,StructBERT能让机器更好地掌握人类语法,使机器在面对语序错乱或不符合语法习惯的词句时,仍能准确理解并给出正确的表达和回应,大大提高机器对词语、句子以及语言整体的理解力。该模型以平均分90.6分在自然语言处理领域权威数据集GLUE Benchmark中位居第一,显著超越人类水平(87.1分)。
达摩院语言技术实验室团队表示:“实验室的目标是让AI掌握人类知识的基础技术,预训练语言模型的诞生使得AI像人一样学习新知识成为可能,未来达摩院会全面对外开放这些技术,让特定领域的AI变得更加智能。”
过去两年,阿里获得了30多项NLP领域顶级赛事世界冠军,有100多篇相关顶会论文; 阿里自然语言技术已在金融、新零售、通讯、互联网、医疗、电力、客服等领域服务超十亿用户和数万企业客户。
Rokid与昆仑数智战略合作正式,主要亮点集中展示,行业变化清晰解读,重点信息全面梳理
华为入股南京芯视界布局固态激光雷,事件脉络清楚整理,关键信息快速掌握,最新消息全面呈现,热点消息及时呈现
华新科LTCC产品涨价三成,发展趋势持续观察,热门话题深入了解,关注焦点及时追踪,最新消息全面呈现
148亿恒大出售其所持有的广汇集,热门话题深入了解,实用内容深入说明,关注焦点及时追踪,事件脉络清楚整理
华为郭平致信海外将士家属19万华,关注焦点及时追踪,真实情况详细说明,精彩内容不容错过
中国最强量子计算原型机“九章”问,最新消息全面呈现,更多内容持续跟进,行业变化清晰解读
2020第四届生物识别技术与应用,重要细节逐步揭晓,实用观点完整分享,发展趋势持续观察,相关进展值得关注
日本正式商用5GSub-6GHz,热点消息及时呈现,重点信息全面梳理,实用观点完整分享,相关资讯同步更新
台积电宣布3200平方毫米巨型芯,重点信息全面梳理,热点消息及时呈现,关注焦点及时追踪
加速专业人才培养南京将组建集成电,最新动态持续更新,热门话题深入了解,核心看点完整汇总
掌握核心战“疫”利器后疫情时代高,更多内容持续跟进,最新消息全面呈现,核心看点完整汇总
传英特尔计划将酷睿i3交由台积电,事件脉络清楚整理,关注焦点及时追踪
传华为将包货运专机从台湾运回所有,更多内容持续跟进,行业变化清晰解读,最新动态持续更新,精彩内容不容错过
高通骁龙4系列5G平台将由三星代,相关资讯同步更新,精彩内容不容错过,相关进展值得关注,关注焦点及时追踪
亚马逊推出AmazonOne手掌,热点消息及时呈现,实用观点完整分享,关键信息快速掌握,最新动态持续更新
全球首发丨芯动科技和Imagin,关键信息快速掌握,主要亮点集中展示
韩国现代斥资60亿元收购波士顿动,实用内容深入说明,关注焦点及时追踪,主要亮点集中展示
vivo正式宣布进入欧洲六大国家,相关进展值得关注,重点信息全面梳理
超级品类新物种+数字照明Wing,相关资讯同步更新,热门话题深入了解
希捷发布全新RISC-V架构处理,核心看点完整汇总,事件脉络清楚整理,真实情况详细说明,重要细节逐步揭晓
传美国打压华为让行业损失惨重致芯,实用观点完整分享,重要细节逐步揭晓,相关进展值得关注,热点消息及时呈现
总投资100亿元合肥长丰县第三代,实用内容深入说明,行业变化清晰解读,实用观点完整分享,事件脉络清楚整理
台积电3nm制程相关材料验证将于,主要亮点集中展示,发展趋势持续观察,行业变化清晰解读,真实情况详细说明
苹果为iPhone“降速门”指控,热门话题深入了解,发展趋势持续观察,重点信息全面梳理,热点消息及时呈现
红外无线充电技术亮相可支持数米距,精彩内容不容错过,热点消息及时呈现,更多内容持续跟进,相关资讯同步更新
日本Fugaku蝉联全球超算TO,最新动态持续更新,主要亮点集中展示,重点信息全面梳理,最新消息全面呈现
美国接连三次施压葡萄牙禁用华为5,关注焦点及时追踪,真实情况详细说明,最新消息全面呈现
台积电宣布3200平方毫米巨型芯,实用观点完整分享,最新消息全面呈现,实用内容深入说明
英伟达400亿美元收购Arm再添,事件脉络清楚整理,最新动态持续更新,核心看点完整汇总,行业变化清晰解读



