基于LDA模型的文本分割

摘要：

文本分割在信息提取、文摘自动生成、语言建模、首语消解等诸多领域都有极为重要的应用.基于LDA模型的文本分割以LDA为语料库及文本建模,利用MCMC中的Gibbs抽样进行推理,间接计算模型参数.获取词汇的概率分布.使隐藏于片段内的不同主题与文本表面的字词建立联系.实验以汉语的整句作为基本块,尝试多种相似性度量手段及边界估计策略,其最佳结果表明二者的恰当结合可以使片段边界的识别错误率远远低于其它同类算法.

关键词：文本分割、LDA模型、相似性度量、边界识别

所属期刊栏目：31

分类号：TP301(计算技术、计算机技术)

资助基金：国家"九七三"重点基础研究发展规划项目基金2002CB312103;国家自然科学基金60503054;中国科学院软件研究所创新工程重大项目资助

在线出版日期：2009-01-06（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：1865-1873