基于二次组合的特征工程与XGBoost模型的用户行为预测

摘要：

特征构造的难题在数据挖掘过程中一直存在,传统固化的特征工程对于业务场景千变万化的数据挖掘任务所带来的效益十分有限,因此解决特征工程的特征构造问题已经成为数据挖掘的瓶颈之一;尤其在机器学习算法快速发展的情况下,特征逐渐成为模型中急需重视的部分.基于电商平台的用户行为数据,在原有特征群的基础上提出了二次组合统计特征的构建方法.利用二次交叉衍生出丰富而又切合业务场景的特征群,同时结合两种滑动窗口的方法,分别是定长滑动窗口获取更多的训练样本,变长滑动窗口获取具有时间权重的训练特征,以此来最大限度地还原出用户真实的行为习惯.最后,使用不同的特征组合结合降维的方法建立对照检验模型;并利用线性的逻辑回归模型、线性支持向量机以及树模型极端随机森林与XGBoost对模型进行交叉验证.结果表明,组合特征在树模型的算法中得到了非常好的表达效果;而且无论在线性模型还是树模型中衍生特征群模型的F1值都优于基础特征群.

关键词：特征工程、二次组合特征、用户行为预测、XGBoost

所属期刊栏目：18

分类号：TP391.41(计算技术、计算机技术)

资助基金：广东省产学研协同创新成果转化项目2016B090918041;广州市产学研协同创新重大专项201504302222568

在线出版日期：2018-07-02（万方平台首次上网日期，不代表论文的发表时间）

页数：共4页

页码：186-189