近日,PA视讯集团官网2023级电子信息专业研究生陈峰以第二作者(导师一作)在期刊《Neural Networks》(中科院SCI二区Top,JCR一区,影响因子:6.3)上发表研究论文,论文题目为《CSA-Kansformer: Cross-Scale Aggregation and Kansformer Network for Hyperspectral Image Classification》。
该论文是在我校万晓青教师的指导下完成,PA视讯集团官网为第一署名单位。论文核心理论是:高光谱图像(HSI)分类在遥感领域中至关重要,能够充分利用丰富的光谱和空间信息。卷积神经网络(CNN)在提取局部特征方面表现出色,而Transformer则擅长捕捉全局语义信息。然而,CNN在处理全局依赖关系时存在困难,而对高光谱数据处理的高计算成本则是Transformer面临的挑战。为结合两者的优势,本文提出了CSA-Kansformer模型,该模型通过引入三个关键模块来提升性能和效率。首先,本文提出了一种空间和通道重构卷积(SCConv)块,利用空间冗余单元(SRU)和通道冗余单元(CRU)来减少冗余特征,从而降低计算成本并提取抽象的空间-光谱特征。其次,我们构建了一个创新的跨尺度聚合模块(CSAM),该模块结合了融合卷积模块(FCM)、通道注意力模块(CAM)和空间注意力模块(SAM)。这一新颖设计能够有效地支持多尺度特征聚合,选择性地强调关键的空间和光谱信息,从而增强特征表示,提高HSI分类任务的准确性。最后,我们引入了Kansformer块,该块用批量归一化替代了层归一化,以增强训练稳定性、加速收敛并改善高光谱分类的泛化能力。此外,通过将多层感知器(MLP)替换为Kolmogorov-arnold网络(KAN),进一步优化了特征学习,提高了训练效率和模型性能。我们在四个广泛认可的高光谱数据集(Botswana、Houston2013、WHU-Hi-HanChuan和WHU-Hi-HongHu)上进行了广泛的实验。结果表明,所提出的CSA-Kansformer模型在分类精度和计算效率上显著超越了九种最先进的方法。这项工作的代码可在https://github.com/wanxiaoqing/CSA-Kansformer上获得。