Monthly Archives: 7月 2021

哈工大覃立波博士应邀到访中文信息处理实验室并作学术报告 2021年7月28日下午，应实验室林鸿宇博士后的邀请，哈尔滨工业大学的覃立波博士到访实验室，并为实验室师生作了题为“任务型对话系统中口语语言理解综述——前沿与挑战”的学术报告。 覃立波博士是哈尔滨工业大学SCIR在读博士生，导师车万翔教授，博士期间以第一作者或者共同第一作者发表CCF A/B会议/期刊14篇。研究方向为任务型对话系统与自然语言处理，曾获三年国家奖学金，春晖创新一等奖学金，之江实验室奖学金，字节跳动奖学金（中国10人），百度奖学金（全球10人），以及入选全球首份AI华人新星百强榜单，IJCAI-SAIA YES学术新星等榜单。同时，他热衷于开源分享和社区建设，促进NLPer在国内的交流，创办了机器学习算法与自然语言处理社区，突破50w+订阅人数和超过2千万阅读量。 报告开始，覃立波博士首先介绍了任务型对话系统的整体结构，接着对其中的自然语言理解模块进行了深入的讲解，然后对口语语言理解（SLU）领域近10年的发展进行一个回顾和总结，最后根据当前发展现状给出了一些研究问题和挑战。 口语语言理解是任务型对话系统中最核心的组件，近些年来的发展也是非常迅速的。根据对意图识别（intent detection）和槽位填充（slot filling）两个子任务的建模方式和交互关系，口语语言理解模型大致可以分为以下几个发展阶段：独立模型（2013-2015），隐式联合建模（2016-2017），显式联合建模—单向信息流动（2018-2019），显式联合建模—双向信息流动（2019-2021）。 从独立建模到隐式联合建模，再从显式单向信息流动到显式双向信息流动的发展趋势，反映了在口语语言理解中意图识别和槽位填充的两个子任务的密切关系，两者的联合交互建模在口语语言理解中起到了非常关键的作用。 [...]

西湖大学特聘研究员张岳应邀到访中文信息处理实验室并作学术报告 2021年7月20日上午，应实验室孙乐研究员和韩先培研究员的邀请，西湖大学特聘研究员张岳老师到访实验室，为实验室师生做了题为“Challenges in Machine Learning in NLP”的学术报告。在本次报告中，张岳老师向中文信息的师生们分享了一些自然语言处理瓶颈的思考，并从模型学习到的特征、解决问题的过程等方面分享一些探索工作。  近年来，自然语言处理的范式从统计模型发展到神经网络模型，并逐步形成了大规模预训练（pretraining）-任务微调（finetuning）的新范式。张老师首先为大家梳理了近年自然语言处理范式的发展过程，并分析了现有预训练加微调范式的几个不足：1）跨领域鲁棒性低、2）对输入扰动敏感、3）缺乏常识知识，以及4）对逻辑与数值理解能力有限。 现有不少研究认为预训练语言模型可以存储知识，但是预训练语言模型是否可以作为下游任务的知识库仍是亟待回答的问题。为回答这一问题，张老师介绍了他们在ACL2021的最新工作：Can Generative [...]

中文信息处理实验室一篇论文获SIGIR 2021最佳短论文奖 近期，第44届国际计算机学会信息检索大会（The 44th International ACM SIGIR Conference on Research [...]