一种基于确定度的交互式迭代数据清洗方法

摘要：

自动化的数据清洗技术可以极大地提升数据清洗的效率,但会导致一定的错误率和不可靠的结果,通过引入人的参与,对建议修改值进行检查可避免错误的修改,同时对最终结果的可靠性有直观的评估.基于上述考虑,本文提出了一种基于确定度的交互式迭代清洗方法,该方法利用主动学习技术,将基于统计方法的数据清洗技术和人的参与相结合,在迭代过程中不断提升清洗模型的清洗能力和数据质量,同时最小化人的参与度.具体地,此方法包含一个基于确定度的自动清洗模型,对数据是否需要修改的必要性进行度量,可有效减少错误的修复;此外,本文还定义了确定度增益,表示数据是保留、还是修改的分歧程度,将分歧最大的建议修改值交与人查看,以减小人的参与度.最终,本文在多个实验数据上验证了方法的有效性.

关键词：数据清洗、主动学习、确定度、交互式迭代

所属期刊栏目：13

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金;上海市自然科学基金

在线出版日期：2023-10-18（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：1-10