【EMNLP2020】控制对话生成中的specificity

本文介绍一篇2020EMNLP-findings上的论文《Consistent Response Generation with Controlled Specificity》，介绍在对话生成中控制回复的specificity。

所谓specificity，我把它翻译成“具体的程度”，举个例子，我跟机器说：“今天天真冷”，机器可以以三种不同的specificity回答我：

是的
确实挺冷的
~~哎呀心疼喝热水，多穿快回外面冷，你忙好梦早点睡，早安晚安睡了没~~，确实冷，多喝热水注意保暖别着凉了

谁不想要一个像第3种这么贴心的聊天机器人呢？（

这篇论文其实是作者发表在2019ACL workshop上的工作《Relevant and Informative Response Generation using Pointwise Mutual Information》的延续，这篇论文提出了一个叫做Positive Pointwise Mutual Information(PPMI)的东西，首先使用PPMI给训练集中的每个word打分，找出keywords，设计了一个loss，鼓励模型生成属于keywords的单词，做法和下面要介绍的论文大同小异。

PPMI的定义如下， $P_{X}(x)$ 为单词 $x$ 出现在上句 $X={x^1,x^2,…,x^{|X|}}$ 中的概率， $P_{Y}(y)$ 为单词 $y$ 出现在回复 $Y={y^1,y^2,…,y^{|Y|}}$ 中的概率， $P(x,y)$ 是单词 $x$ 和 $y$ 同时分别出现在一对 $(X, Y)$ 中的概率，这些概率P都可以通过对训练集预先的统计得到。由此可以得到PPMI矩阵，PPMI[x][y]就是PPMI(x, y)的值，预先存储好以供后面模型使用。

作者进一步提出一条数据的MaxPMI，定义如下

通过min-max normalization将每条数据的MaxPMI分数归一化

$\mathrm{MaxPMI}(\mathbf{X,Y})=\frac{\operatorname{MaxPMI}(\mathbf{X,Y})-\min _{(\mathbf{X^{\prime},Y^{\prime})} \in \mathcal{D}}\left(\operatorname{MaxPMI}_{\mathbf{(X^{\prime},Y^{\prime}})}\right)}{\max _{(\mathbf{X^{\prime},Y^{\prime}}) \in \mathcal{D}}\operatorname{MaxPMI}_{\mathbf{(X^{\prime},Y^{\prime}})} -\min _{(\mathbf{X^{\prime},Y^{\prime})} \in \mathcal{D}}\operatorname{MaxPMI}_{\mathbf{(X^{\prime},Y^{\prime}})}}$

模型的整体架构如下

模型架构

首先对于一条数据 $(X,Y)$ ，使用GRU将utterance $X$ 编码为一个向量 $h_{GRU}$ ，然后把这条数据的MaxPMI分数丢到一个多层全连接网络里(MLP)输出一个vector $h_s$ ，接着把整个词表 $V$ 上的每一个单词 $v$ 和utterance $X$ 中所有的单词 $x$ 求PPMI分数之和，得到一个长度和词表大小 $|V|$ 一样的vector $v_f=[d_0,d_1,…,d_{|V|}]$ ，

然后，同样地把 $v_f$ 丢到一个多层全连接网络中输出一个vector $h_v$ ，把得到的三个向量给concat起来得到 $h=[h_{GRU};h_s;h_v]$ ，把h作为decoder的初始状态，因此decoder应该可以利用PPMI所定义的词与词之间的共现关系，来学习如何生成更具体specific的回复。

为了直接地提升decoder输出更specific的单词的概率，作者还把 $v_f$ 和decoder在每个timestep i输出的概率 $\pi_i$ 通过加权的方式加在了一起得到

$\lambda_i$ 用于平衡二者，由decoder当前输出的隐状态 $h_i$ 通过一层MLP得出

Inference阶段只需要手动定义MaxPMI的值s，就可以生成不同specificity程度的回复。同时作者还提出inference不手动提供值s的方法，可使用下式自动求出 $s_{max}$ 的值， $V$ 是整个词表， $X$ 是给出的问句

作者的实验在DailyDialog和Twitter(Japanese)上进行，对比的模型是SC-Seq2Seq，它出自ACL2018上的《Learning to Control the Specificity in Neural Response Generation》，同样是控制生成的，最大的区别可能在于本文用的是作者定义的PPMI，那篇也是作者定义了一个指标，并提前告诉decoder每个词的得分。