面向大样本数据的核化极速神经网络
核化极速神经网络KELM(Kernel Extreme Learning Machine)将ELM(Extreme Learning Machine)推广到核方法框架下,取得了更好的稳定性和泛化性.但KELM的训练时间O(n2m+n3 +ns)≈O(n3),以样本数n的3次幂急剧膨胀(n为样本数,m为特征维度,s为输出节点个数),不适合处理大样本数据(n≥20 000为基准).为此作者提出一种KELM加速计算框架,并在该框架下结合Nystr(o)m近似低秩分解实现一种快速算法NKELM(Nystr(o)m Kernel Extreme Learning Machine).NKELM的训练时间O(nmL +mL2+L3+nLs)≈O(n),只是n的一次幂(L为隐含层节点数,通常L《n),远远低于KELM的训练时间,适合处理大样本数据.实验表明,NKELM在大样本数据上具有极快的学习速度,同时产生良好的泛化性能.
极速神经网络、随机采样、低秩分解、核方法
37
TP18(自动化基础理论)
国家自然科学基金61100166,61202184;国家自然科学基金重点与重大项目91118005,91218301;创新群体项目61221063;陕西省科技新星项目2013KJXX-29;陕西省自然科学基金2012JM8022;陕西省普通高等学校重点学科专项资金建设项目2012XKJS-A016;西安邮电大学西邮新星团队项目2014XYXX-03;The research is supported by National Natural Science Foundation of China under Grant Nos.61100166,61202184,91118005,91218301;Innovation Fund Research Group under Grant No.61221063;Shaanxi Provincial Youth Science and Technology Star Plan under Grant No.2013KJXX-29;Science Foundation of Shaanxi under Grant No.2012JM8022;The Special Funds of Key Discipline Construction Project of Shaanxi Province Ordinary High School and New Star Team of Xi'an University of Posts & Telecommunications
2015-02-05（万方平台首次上网日期，不代表论文的发表时间）
共12页
2235-2246
