基于Vapnik-Chervonenkis泛化界的极限学习机模型复杂性控制

摘要：

模型复杂性是决定学习机器泛化性能的关键因素,对其进行合理的控制是模型选择的重要原则.极限学习机(extreme learning machine,ELM)作为一种新的机器学习算法,表现出了优越的学习性能.但对于如何在ELM的模型选择过程中合理地度量和控制其模型复杂性这一基本问题,目前尚欠缺系统的研究.本文讨论了基于Vapnik-Chervonenkis(VC)泛化界的ELM模型复杂性控制方法(记作VM),并与其他4种经典模型选择方法进行了系统的比较研究.在人工和实际数据集上的实验表明,与其他4种经典方法相比,VM具有更优的模型选择性能:能选出同时具有最低模型复杂性和最低(或近似最低)实际预测风险的ELM模型.此外,本文也为VC维理论的实际应用价值研究提供了一个新的例证.

关键词：VC泛化界、模型复杂性、极限学习机、小样本、实际预测风险

所属期刊栏目：31

分类号：TP18(自动化基础理论)

资助基金：国家重点基础研究发展计划“973”资助项目2009CB320603;国家自然科学基金资助项目61273085;浙江省自然科学基金资助项目LY14F030020

在线出版日期：2014-07-03（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：644-653