面向高光谱影像场景分类的轻量化深度全局-局部知识蒸馏网络

摘要：

针对目标场景复杂的空间布局和高光谱影像固有的空-谱信息冗余等挑战,提出了端到端的轻量化深度全局-局部知识蒸馏(Lightweight Deep Global-Local Knowledge Distillation,LDGLKD)网络.为探索空-谱特征的全局序列属性,教师模型视觉Transformer(Vision Transformer,ViT)被用来指导轻量化学生模型进行高光谱影像场景分类.LDGLKD选择预训练的VGG16作为学生模型来提取局部细节信息,将ViT和VGG16通过知识蒸馏协同训练后,教师模型将所学习到的远程上下文关系向小规模学生模型进行传递.LDGLKD可通过知识蒸馏结合上述两种模型的优点,在欧比特高光谱影像场景分类数据集OHID-SC及公开的高光谱遥感图像数据集HSRS-SC上的最佳分类精度分别达到91.62％和97.96％.实验结果表明:LDGLKD网络具有良好的分类性能.根据欧比特珠海一号卫星提供的遥感数据构建的OHID-SC可以反映详细的地表覆盖情况,并为高光谱场景分类任务提供数据支撑.

关键词：高光谱场景分类、特征提取、视觉Transformer、知识蒸馏、基准数据集

所属期刊栏目：31

分类号：TP751(遥感技术)

资助基金：国家自然科学基金;重庆市留学人员回国创业创新支持计划资助项目

在线出版日期：2023-11-13（万方平台首次上网日期，不代表论文的发表时间）

页数：共13页

页码：2598-2610