高能物理大数据挑战与海量事例特征索引技术研究

摘要：

新一代高能物理实验装置的建成与运行,产生了PB乃至EB量级的数据,这对数据采集、存储、传输与共享、分析与处理等数据管理技术提出了巨大挑战.事例是高能物理实验的基本数据单元,一次大型实验即可产生万亿级的事例.传统高能物理数据处理以ROOT文件为基本存储和处理单位,每个ROOT文件可以包含数千至数亿个事例.这种基于文件的处理方式虽然降低了高能物理数据管理系统的开发难度,但物理分析仅对极少量的稀有事例感兴趣,这导致了数据传输量大、I∕O瓶颈以及数据处理效率低等问题.提出一种面向事例的高能物理数据管理方法,重点研究海量事例特征高效索引技术.在这种方法中,将物理学家感兴趣的事例的特征量抽取出来建立专门的索引,存储在NoSQL数据库中.为便于物理分析处理,事例的原始数据仍然存放在ROOT文件中.最后,通过系统验证和分析表明,基于事例特征索引进行事例筛选是可行的,优化后的HBase系统可以满足事例索引的需求.

关键词：高能物理、数据管理、事例索引、HBase、查询优化

所属期刊栏目：54

分类号：TP311.133(计算技术、计算机技术)

资助基金：国家重点研发计划项目2016YFB1000604 This work was supported by the National Key Research Program of China 2016YFB1000604

在线出版日期：2017-03-23（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：258-266