基于最小交叉熵的相关向量机

摘要：

研究了传统相关向量机(RVM)的性能,分析了传统RVM的性能完全取决于先验假设的连接权值和参数的平滑性,因而其稀疏性实际上仍受核函数或核参数选择的控制,这在某些情况下可能会导致严重的欠拟合或过拟合现象的问题,在此基础上,提出了明确地给出基函数优化过程中的目标数量,并通过最小化训练阶段前向“假定”概率分布和测试阶段反向“真实”概率分布间的交叉熵来构建RVM的方法.实验结果表明,这种方法不但可以构建最小复杂度的基于最小交叉熵的RVM结构,而且构建的RVM能很好地对数据进行拟合,提高预测的准确性,增强其稀疏性.

关键词：相关向量机(RVM)、贝叶斯推理、最小交叉熵、径向基函数(RBF)网络

所属期刊栏目：24

分类号：TP1;TN9

资助基金：国家自然科学基金61370162;中国航天科技集团公司哈尔滨工业大学联合技术创新中心CASC-HIT13-1004

在线出版日期：2014-12-19（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：942-947