点击右上角微信好友
朋友圈
请使用浏览器分享功能进行分享
2023年世界互联网大会乌镇峰会期间,15项世界互联网大会领先科技奖正式公布,由清华大学、华为技术有限公司带来的“多层次多元知识融通的自然语言深度学习基础方法”项目入选基础研究组奖项。
清华大学计算机科学与技术系教授、人工智能研究院常务副院长孙茂松接受光明网记者采访时表示,团队很早便开始关注基于深度学习这种新型研究范式的自然语言处理问题。这些年,行业领域内出现了“预训练语言模型”这个概念,就是基于大的语料库来训练语言模型,让其理解人类语言。
“在此过程中,我们发现如果要让这个语言模型呈现更多智能化,必须往它里边放入更多的知识,包括各个层面上人类已经总结出来的语言知识,以及世界知识。”孙茂松表示,如何将知识图谱和语言模型结合的更好,对我们来说是一个挑战。
孙茂松介绍,“多层次多元知识融通的自然语言深度学习基础方法”项目经过持续研究,在语言与训练模型中更多的注入了语言知识、世界知识,以及和世界知识的互动,显著提升了自然语言处理模型的基本能力。“但在大模型条件下,所有结论还需重新审视,以便进行更加深入的研究。”
(策划:李政葳 统筹:穆子叶、孔繁鑫 摄像:范子川、刘昊 制作:刘昊 编辑:雷渺鑫)