基于有限约束满足问题的溢出漏洞动态检测方法

摘要：

溢出型漏洞是最为普遍且最具危害的漏洞类型之一,溢出漏洞检测也是目前国内外研究的热点问题.目前漏洞检测方法主要分为白盒测试和黑盒测试两类.前者主要针对程序指令进行漏洞分析,但存在效率较低、检测结果不准确等缺点；后者难以保证程序覆盖的全面性与测试数据的针对性.文中提出了一种基于有限约束满足性问题(Constraint Satisfaction Problem,CSP)的溢出漏洞动态检测方法.在程序执行过程中,结合动态污点传播和动态循环分析,选取可能产生溢出漏洞的语句并生成CSP表达式,表达式包括语句的执行条件和漏洞产生条件两部分；通过对此CSP表达式化简求解,验证漏洞的存在性与漏洞的触发条件.该方法可直接分析可执行程序,解决了间接跳转、多态代码等静态分析中难以解决的问题.为了验证该方法的有效性,作者开发了一套原型系统并进行相关实验,结果表明该方法缩小了漏洞分析范围,提高了分析效率.

关键词：计算机安全、漏洞检测、动态检测、CSP、可执行程序

所属期刊栏目：35

分类号：TP309(计算技术、计算机技术)

资助基金：国家自然科学基金60703076,61100226;国家"八六三"高技术研究发展计划项目基金2006AA01Z412,2007AA01Z451;北京市自然科学基金4122085

在线出版日期：2012-08-07（万方平台首次上网日期，不代表论文的发表时间）

页数：共12页

页码：898-909