基于CMCP-LMCL的多分类深度神经网络及其应用

摘要：

多分类问题涉及信用风险管理、股票走势预测等多个领域.深度神经网络(DNN)是常用于多分类预测的机器学习模型,然而输入特征维度较高且存在冗余信号时,将加重其可解释性不强和结构冗余等缺陷;同时,常用的Softmax损失也可能面临分类边界模糊导致预测效果不佳等问题.为此,本文针对多分类问题,提出一个新的深度神经网络CMCP-LMCL,利用CMCP变量选择方法压缩输入特征到第1隐藏层的权重.该方法融合权重的组结构,能够剔除无关特征以及不重要的连接;同时,对特征层之外的权重施加权重衰减L2惩罚,有利于改进过拟合问题.新方法的增强边缘余弦损失(LMCL)在Softmax基础上引入扩大参数和距离参数,增大分类决策边界的间隔以期提高分类预测性能.模拟分析表明,对比已有DNN和传统分类方法,无论特征以简单线性形式还是复杂非线性形式映射到因变量,本文所提出的方法均具有良好的特征选择性能和预测表现.基于信用贷款数据的实证分析表明,该方法能够有效选择风险指标并进行违约风险预警.

关键词：组变量选择、深度神经网络、多分类、信用风险评估

所属期刊栏目：41

分类号：C812(统计方法)

资助基金：国家自然科学基金;教育部人文社会科学研究项目;湖南省自然科学基金青年项目;湖南省研究生科研创新项目

在线出版日期：2024-08-15（万方平台首次上网日期，不代表论文的发表时间）

页数：共13页

页码：148-160