对话场合无处不在，产生的对话文本中蕴含着丰富的信息，不仅承载着人们谈论的主题，而且可体现出说话人的情感、态度和观点，具有很广泛的用途。近年来，深度神经网络在图像分类、语音识别等领域取得的突出进展，体现出了强大的表示学习能力，并进一步应用至自然语言处理应用中。文本表示是自然语言处理的基础，但传统方法存在着维度灾难和特征稀疏等问题，以深度神经网络为基础的表示学习方法可从数据中自动学习出低维、稠密的特征，可有效缓解以上问题。对话文本虽然在形式上与普通文档类似，都是由多个句子按顺序组合而成，但同时也具备有别于普通文档的结构特点。因此，本文相关研究工作紧扣中文短文本对话特点，面向特定领域的海量短文本处理需求，基于表示学习方法，开展针对中文对话的语义表示方法研究，并运用学习到的对话特征进行后续的处理任务，例如面向中文对话的主题分类、情感分析等。本文研究工作及主要贡献如下： 

 

1、研究基于词向量和字向量组合的中文短文本表示方法。中文对话中的每个话语均属于中文短文本，针对中文短文本存在的特征稀疏和分词错误等现象，提出基于词向量和字向量组合的C-LSTMs/BLSTMs模型。在中文短文本分类数据集上的实验结果表明，该方法实现的字词组合特征比单独使用词特征或字特征具有更好的语义表示能力。该方法首次系统地探索了基于中文字词向量组合的RNN模型表示方法在中文短文本分类任务上的有效性，其性能超出了多个基准方法。 

 

2、研究基于注意力机制的中文短文本联合语义表示方法。在C-LSTMs/BLSTMs模型基础上，提出基于注意力机制的中文短文本联合语义表示方法HANs，该方法引入注意力机制，通过CNN和RNN网络从输入文本的词向量和字向量序列中，自动学习选择出那些对文本语义起决定性作用的关键词或字。在中文短文本分类数据集上的实验结果表明，具有注意力机制的HANs模型进一步提升了针对中文短文本的语义表示能力。 

 

3、研究面向中文短文本对话的层次化联合语义表示方法。结合对话文本结构特点，提出了面向中文短文本对话的句子和对话两级联合语义表示方法H-HANs，实现说话人信息和短文本内容的有效融合。在面向中文对话的主题分类数据集上的实验结果表明，H-HANs能有效地从中文对话中自动选择出可决定整个对话主题类别的关键话语特征，其性能超出了多个基准方法。此外，本工作构建的中文对话级主题分类数据集将公开发布以用于相关的科学研究。 

 

4、研究面向中文短文本对话的情感分析方法。构建了一个面向中文短文本对话的情感分析语料库，该语料库将公开发布以用于相关的科学研究。基于该语料库进行的面向中文对话的情感极性分类和情感类别细粒度分类实验结果进一步表明，H-HANs能很好地对中文短文本对话进行语义表示学习，通过层次化的注意力权重学习，能从对话中识别出对整个对话语义起决定作用的关键句子信息，并最终得到了整个对话的统一语义表示向量。 

 

综上所述，本文面向中文短文本对话，融合深度神经网络和注意力机制，从字、词、句子和对话多个层级进行联合表示学习，并基于学习出的中文对话统一语义表示向量，开展对话级的主题分类、情感分析等NLP任务研究。实验结果表明，对比已有方法，本文研究成果可进一步提升相应任务的性能。同时，我们将以上研究成果应用于面向特定领域的短文本分析系统中，基于海量短文本数据，实现短文本分类、中文对话主题分类和情感分析应用。