Class Central is learner-supported. When you buy through links on our site, we may earn an affiliate commission.

Peking University

低资源场景下的对话系统任务的模型定制

Peking University via XuetangX

Overview






【直播时间】
2020.8.7   19:30-20:30


【直播内容】


用最少的语料训练生成模型是构建开放域对话系统的关键挑战之一。现有的方法倾向于使用元学习框架,首先预训练所有非目标任务的参数,然后在目标任务上进行微调。然而,微调的方法仅仅将不同任务从参数角度区分开来,却忽略了模型的结构,因此容易产生相似的对话模型。因此,我们提出了CMAML算法,可以为每一个对话任务定制一个独特的模型。在CMAML中,每个对话模型由一个共享模块、一个选通模块和一个私有模块组成。前两个模块是所有任务共享的,第三个私有模块具有独特的网络结构与参数,以捕捉相应任务的特征。训练中,不相似的任务网络结构没有重叠,相似的任务共享部分网络结构和参数,因此CMAML可以适用于低资源场景。在两个数据集上的实验表明,CMAML在任务一致性、回复质量和多样性方面都优于所有基线模型,且在低资源文本生成任务上具有较强的通用性。


【直播福利】


扫码加入「CS Talk」直播班级,即可
①获取更多直播预告、活动福利!
②和大佬大咖们O2O零距离交流!
③朋辈一起学习的活跃圈子!




群如满,请微信添加xuetangx03,回复“直播”加入班级群。



Tags

Reviews

Start your review of 低资源场景下的对话系统任务的模型定制

Never Stop Learning.

Get personalized course recommendations, track subjects and courses with reminders, and more.

Someone learning on their laptop while sitting on the floor.