基于遗传实例和特征选择的K近邻训练集优化方法

摘要：

K近邻的分类性能依赖于训练集的质量.设计高效的训练集优化算法具有重要意义.针对传统的进化训练集优化算法效率较低、误删率较高的不足,提出了一种遗传训练集优化算法.该算法采用基于最大汉明距离的高效遗传算法,每次交叉保留父代并生成两个新的具有最大汉明距离的子代,既提高了效率,又保证了种群多样性.该算法将局部的噪声样本删除策略与特征选择策略相结合.首先使用决策树算法确定噪声样本存在的范围,然后使用遗传算法精准删除此范围内的噪声样本和全局的噪声特征,降低了误删率,提高了效率.该算法采用基于最近邻规则的验证集选择策略,进一步提高了遗传算法实例选择和特征选择的准确度.在15个标准数据集上,该方法相较于协同进化实例特征选择算法IFS-CoCo、加权协同进化实例特征选择算法CIW-NN、进化特征选择算法EIS-RFS、进化实例选择算法PS-NN、K近邻算法KNN,在分类精度上分别平均提升了2.18％,2.06％,5.61％,4.06％和4.00％.实验结果表明,所提方法的分类精度和优化效率优于当前的进化训练集优化算法.

关键词：遗传算法、K近邻、实例选择、特征选择、噪声样本、决策树

所属期刊栏目：47

分类号：TP181(自动化基础理论)

资助基金：国家自然科学基金;广西自然科学基金;广西嵌入式技术与智能系统重点实验室基金

在线出版日期：2020-08-26（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：178-184