一种面向多文本集的部分比较性LDA模型

摘要：

跨时空、跨文化文本挖掘等比较性文本挖掘(comparative text mining,CTM)旨在从多个可比的文本集中发现各文本集隐含语义结构的异同.针对当前主要的CTM模型只能分析公共话题的缺陷,提出一种部分比较性跨文本集LDA模型(partial comparative cross collections LDA model,PCCLDA)来实现跨文本集的话题分析,该模型通过层次狄利克雷过程(hierarchical Dirichlet processes,HDP)把话题划分为公共话题和文本集特有话题,使模型能更加精确地对文本进行建模.模型采用Gibbs抽样方法进行参数推导,一系列包括Held-Out数据对数似然和模型困惑度指标在内的定量与定性的实验表明,模型不仅能够发现公共话题在不同文本集中的差异,而且能分析各文本集特有的话题;在Held-Out对数似然测度和模型困惑度指标上,PCCLDA相对当前两个主要的CTM模型具有较大的优势.

关键词：比较性文本挖掘、部分比较性、部分比较性跨文本集LDA模型、话题模型、Gibbs抽样

所属期刊栏目：50

分类号：TP181(自动化基础理论)

资助基金：国家自然科学基金项目60903225;湖南省自然科学基金项目11JJ5044;国防科学技术大学优秀研究生创新基金项目S100502

在线出版日期：2013-10-21（万方平台首次上网日期，不代表论文的发表时间）

页数：共11页

页码：1943-1953