Yearly Archives: 2019

大阪大学褚晨翚博士应邀做学术报告 2019年12月24日下午，应实验室孙乐研究员和韩先培研究员邀请，大阪大学褚晨翚博士到访实验室，为实验室师生作了题为“从多语言到多模态处理”的学术报告。 褚晨翚博士的报告主要聚焦于近年来极为热门的跨语言及跨模态相关的研究。在报告中，褚博士主要介绍了其课题组近期发表在顶级刊物上的三个科研成果，内容涉及多语言机器翻译、视觉问答复述以及基于知识的视觉问答等重要方向。 在多语言机器翻译上，褚博士提出了一种全新的三步骤微调学习方案，大幅度地提升了多语言机器翻译模型的性能。 在视觉问答复述上，褚博士的课题组率先提出了在视觉问答中需要考虑训练以及测试中的复述现象，提出了一个全新的视觉复述识别任务，并对该任务进行了系统性的研究。 在基于知识的视觉问答上，褚博士的课题组构造了一个全新的视觉问答数据，该数据需要综合各种不同的背景知识进行推理，从而能够很好地衡量模型基于知识推理的能力。 报告结束后，褚博士与实验室师生进行了热烈的互动，并对多模态学习的未来发展方向进行了展望。褚博士凭借多年来跨语言学习以及多模态学习领域的深厚积累，为大家带来非常具有启发意义的报告，使得大家获益良多。   责任编辑：马龙龙 编辑：林鸿宇 [...]

浙江大学丁鼐研究员应邀做学术报告 2019年12月12日下午，应实验室孙乐研究员和韩先培研究员邀请，浙江大学生物医学工程与仪器科学学院丁鼐研究员，为实验室师生作了题为“层级语言结构的认知神经加工”的学术报告。 丁鼐老师首先通过一系列实验向大家介绍了大脑如何编码语音中不同层级的语言单元——比如音节、词、短语和语句。这些实验主要建模语言特征与脑信号之间的关系，实验结果显示不同时间尺度的神经振荡表征不同大小的语言单元，这也说明了大脑构建了多层级的语言表征。 随后丁鼐老师介绍了注意力如何影响大脑对不同大小语言单元的编码。实验发现高级语言结构加工更依赖于注意力，而且句子聆听过程中的注意焦点可以调节大脑响应。 报告结束后，实验室老师和多位同学与丁鼐老师针对人与计算机进行阅读理解时注意力的差异、大脑中词汇表征形式等问题进行了深入交流。 责任编辑：马龙龙 编辑：陆垚杰    

阿里达摩院陈博兴博士应邀做学术报告 2019年11月29日下午，应实验室孙乐研究员和韩先培研究员邀请，阿里巴巴达摩院机器智能技术实验室陈博兴博士到访实验室，为实验室师生作了题为“语音翻译的技术及其应用”的学术报告。 陈老师的报告主要介绍了阿里巴巴集团近年来在语音翻译方面的相关工作。从主要挑战、技术策略以及实际应用等多个方面介绍了阿里巴巴公司在语音翻译方面的研究及落地情况。 首先，陈老师简单回顾了在语音翻译方面的两个主要的技术路线：级联式以及端到端的方法。虽然近年来端到端的方法得到的广泛的关注，但因其对于数据量的要求较高，阿里巴巴公司目前仍然采用级联式的语音翻译方案。 接下来，陈老师总结了在级联式语音翻译中的主要挑战：糟糕的翻译输入（主要来自于语音错误、断句错误、不通顺、非正式语言），缺少相关的标注语料（缺少非正式语言的平行语料等）以及在MT任务上的一些传统挑战。 针对上述的一些重要挑战，陈老师分别详细地介绍了阿里巴巴公司在级联式方法的翻译输入以及翻译过程上的一些相关工作。    比如在语音识别错误纠正上，特别是中文的人称代词（他/她/它）上的纠正工作。 使用noisy training加入Bert [...]

复旦大学张奇教授应邀做学术报告 2019年11月18日下午，应实验室孙乐研究员和韩先培研究员邀请，复旦大学计算机学院张奇教授到访实验室，为实验室师生作了题为“搜索引擎中的智能问答”的学术报告。 张老师的报告聚焦于近些年在学术界和工业界都备受关注的智能问答方向。张老师首先介绍了近些年搜索引擎发展的趋势，指出了智能问答技术在移动互联网时代的重要性。随即，张老师比较了近些年在学术界火热的SQuAD数据集和工业界实际应用场景下的区别，相比于SQuAD评测，工业界实际场景中存在文档种类更多，质量差异大，文档更长，且不一定存在正确答案等问题，使得真实场景中的智能问答难度更大，更具挑战性。 为了解决智能问答中存在的这些问题，张老师将解决方案分为三大类：1）基于社区的问题回答；2）基于知识图谱的问题回答；3）机器阅读理解。张老师着重介绍了第一和第三这两大类方案的主要方法和最新工作。 基于社区的问题回答，可以当成语义匹配问题来建模。现阶段互联网的问答平台如百度知道、搜狗问问、知乎等都已积累了丰富的问题和答案资源。当用户有新的问题咨询时，可以直接在已有问题中匹配到相似问题，返回对应的已有答案。现有的语义匹配模型可以分为两大类：一是基于句子表示的方法；二是基于交互关系的方法。 在实际问答场景中，许多问题所包含信息较少，但其对应答案中却包含可以解释和区分问题的信息。因此，张老师等在SIGIR2019发表的工作利用自适应多注意力机制，融合答案和问题信息，提高了语义匹配的性能。 尽管基于社区的问题问答在近些年取得了极大的进展，但是依然存在各种精度和召回损失，难以应对社区问答文本中存在的各种情况。因此，引入基于阅读理解的问题问答是十分必要的。 基于阅读理解的问题问答，主要思路是根据所提问题，在文档集中选取相关候选文档，再从候选文档集中抽取出能够回答问题的短语。近些年许多阅读理解模型被提出，如BiDAF、DrQA等。在介绍了阅读理解模型基本框架后，张老师又介绍了近些年的研究进展，如为解决文档中长距离依赖问题，引入了多层级的attention机制的HM-QRNN模型。同时，针对深度学习难解释的问题，张老师等在AAAI2020提出了大规模的中文阅读理解数据集，数据中包含给出答案的依据信息，使得模型在给出答案的同时能够提供对应的依据。除此之外，张老师也介绍了组内最近的开源工具包SMRCToolkit。 最后，张老师总结了智能问答当前面临的一些重要挑战：如何利用知识和常识，如何进行推理，如何快速低成本进行领域切换，如何构造有效的置信度机制等。 报告结束后，张老师与实验室师生进行了热烈的互动，探讨了智能问答的现状，以及工业界当前实际面临的问题。张老师凭借多年来在学术界和工业界的深厚学识和经验，为大家带来了一场生动，具有启发意义的报告，使得大家获益良多。 [...]

中文信息处理实验室师生参加EMNLP-IJCNLP2019 2019年11月3日至7日，由ACL SIGDAT（语言学数据特殊兴趣小组）主办的EMNLP-IJCNLP 2019（2019 Conference on Empirical Methods in Natural [...]

祝贺实验室唐家龙和吴杉荣获2019年国家奖学金 所研究生国家奖学金评审委员会于2019年11月6日组织了公开答辩、评议，最后通过无记名投票表决，我实验室2018级直博生唐家龙同学、2017级硕士吴杉同学获得2019年硕士研究生国家奖学金。特向两位同学表示祝贺！      

天朗气清，金海赏秋 一年好景君须记，最是橙黄橘绿时，金海赏秋正当时。10月27日，中文信息处理实验室组织职工及学生20余人奔赴北京市金海湖，一赏秋日美景。 金海湖风景区，地处京城东北85公里京津唐交界的三角地带，三面环山，峰峦叠翠、风景秀丽，有千岛湖的湖观山色，又有兔耳岭的怪石嶙峋，有湖光塔、金花公主墓、望海亭、锯齿崖等自然景观、人文景观数十处。 金海湖水域宽阔、碧波万顷，是开展水上娱乐项目的理想之所。待到暖阳染红苍穹，湖面泛起点点金芒，荡起轻舸，泛舟湖上，微风吹皱粼粼涟漪，人在其中静静欣赏着青峰翠嶂，仿佛置身水墨山水之中，令人忘返。   告别秋水盈盈的金海湖，大家来到了苹果采摘园体验采收。晚秋的时节，带着丝丝凉意，大家健步快走、气氛热烈融洽，零距离感受田园风光，体验亲手采摘的超凡乐趣。 夕阳渐斜，告别秋日的宁静与秀美，我们重新回到实验室投入紧张的工作与学习。相信我们的辛勤耕种，一定会换来收获的沉淀与甘甜；作为一个团体，中文信息处理实验室也必将不断成长，砥砺前行！ 供稿人：周赢、徐若曦    

中科院计算所冯洋副研究员应邀做学术报告 2019年10月29日下午，应实验室孙乐研究员和韩先培研究员的邀请，中科院计算技术研究所冯洋副研究员到访实验室，为实验室师生做了题为“机器翻译的训练改进和解码提速”的学术报告。 冯老师的报告聚焦于机器翻译训练和测试阶段的四个困难，分别介绍了四个相对应的工作。首先，冯老师简要阐述了当前机器翻译使用的序列到序列模型架构：RnnSearch和Transformer，并指出在现有机器翻译模型训练阶段存在的：1）曝光偏差；2）词级匹配的问题以及测试阶段存在的：3）Beam Search搜索空间过大；4）顺序解码时效性差的问题。 曝光偏差是指机器翻译模型训练阶段将上一时刻准确的词作为输入以预测这一时刻的词，而测试阶段没有标准的目标端输出词只能将上一时刻预测的词作为输入。而这就导致了训练阶段与测试阶段的不一致。冯老师针对该问题介绍了他们在ACL2019的Best Long Paper：Bridging the Gap between [...]

中国科学院软件研究所中文信息处理实验室招聘启事——特别研究助理（博士后） | 工程师 因科研工作需要，中国科学院软件研究所中文信息处理实验室现公开招聘以下岗位，即日起受理报名，竭诚欢迎符合条件的人士申请。 岗位一：特别研究助理/博士后（2-3人） 任职描述： 从事自然语言处理方向的研究； 与实验室主任协商确定研究方向和任务，深入开展研究工作； 积极申报国家级科研项目； 聘期内发表高水平期刊或会议论文2篇以上（CCF-A类或CCF-B类）； [...]

中文信息处理实验室多名师生参加CCL2019 “第十八届中国计算语言学大会”（The Eighteenth China National Conference on Computational Linguistics, CCL [...]