探索用于高光谱作物分类的Kolmogorov–Arnold网络——一项评估性研究

《Advances in Space Research》：Exploring Kolmogorov–Arnold Networks for Hyperspectral Crop Classification?An Evaluative Study

本研究基于高光谱成像技术，采用标准化KAN框架评估了8种KAN变体在作物分类中的性能，基于Wuhan无人机数据集。实验表明JacobiKAN（99.78%）和ChebyKAN（99.99%）准确率最优，验证了多项式基KAN模型在HSI分类中的优势，为农业遥感研究奠定基础。

　　

Shruti Gupta | Ashish Kumar | R.D. Garg | Neeraj Jain

计算机科学与工程/信息技术系，Jaypee信息技术学院，诺伊达

摘要

本研究利用高光谱成像（HSI）分析了多种Kolmogorov–Arnold Network（KAN）变体在精准农业中的作物分类应用。为了评估八种不同的KAN变体——KAN Linear、KALN、FastKAN、ChebyKAN、GRAM、WavKAN、JacobiKAN和BottleNeckGRAM——研究人员建立了一个标准化的基于KAN的框架，并在武汉无人机搭载的高光谱数据集上进行了测试。训练过程中采用了随机梯度下降算法，所有模型变体的实验设置保持一致。JacobiKAN（99.78%）和ChebyKAN（99.99%）在分类准确性上表现最佳。这些结果表明，基于多项式的KAN模型在高光谱图像（HSI）分类中的模式识别能力优于传统的光谱分析技术。本研究对KAN变体进行了全面分析，为未来基于KAN的方法在农业遥感领域的研究奠定了坚实的基础。

引言

自第一颗卫星“Sputnik-1”发射以来已经过去了60年，从那时起，卫星一直在为各种应用提供数据。卫星收集了大量人类前所未见的数据，这些数据需要进一步处理和分析。卫星获取的数据覆盖了不同的波长范围，即光谱带。这些视觉数据以像素值的形式表示，提供了超出人眼检测能力的洞察力和信息，这被称为空间分辨率。根据用于记录光谱带值的传感器类型，卫星图像可以描绘海面和大气状况（Wang等人，2023年）。卫星具有“时空”特性，这意味着它们可以检测特定时间和地理位置的信息（Cenci等人，2018年；Gupta, Singh等人，2017年）。然而，卫星的空间精度和更新频率往往相互矛盾。为了获得高分辨率，必须从每个微小区域收集数据，这需要大量时间，而卫星在轨道上的移动速度非常快。为了平衡这两者，卫星必须通过分配观测区域来仔细选择空间分辨率和更新频率（Cenci等人，2018年）。

卫星和现在的无人机（UAV）能够捕获具有空间和光谱特性的数据，这种技术被称为高光谱成像（HSI）。卫星还捕获基于太阳反射的光学图像，有助于监测、分类和绘制矿物和水体的地图（Zhou等人，2018年）。尽管存在多种类型的数据及其各自的重要性，但本研究主要关注与作物相关的高光谱图像分类。

总之，卫星和UAV是通过专门成像技术从周围环境中收集有意义和有用数据的技术进步。这些数据结合了光谱和空间信息，成为农业和环境监测等多种应用的重要来源（Lavadiya等人，2022年；Li等人，2019年）。

高光谱成像（HSI）同时融合了空间和光谱特征。与仅收集少数宽光谱带数据的多光谱成像不同，HSI为每个像素收集详细信息，甚至覆盖约10-20纳米的狭窄光谱带，这使得识别材料并以其他方式利用这些材料变得更加容易（Amigo，2019年；Li等人，2019年）。这些数据也被称为数据立方体，其中包含完整的光谱或反射率，与仅提供三个光谱带的RGB不同，后者适用于物体和表面的结构和化学研究（Amigo，2019年）。HSI的应用包括植物健康监测、营养状况监测、病害作物识别、水质和土地利用评估以及天气监测（Govender等人，2007年）。在地质学中，HSI用于发现矿物并绘制地球表面的构成。城市规划者需要这些图像来研究城市的热条件并做出明智的土地利用决策。

同样的图像也是城市规划者的必备工具，他们可以利用这些图像来分析城市热状况并做出明智的土地利用选择。这一多功能技术平台为研究人员和专业人士提供了宝贵的见解，使他们能够更好地理解不同领域，因此成为现代研究和工业的重要工具。高光谱成像还有助于检测污染水平、评估土壤和水质，其在医学领域的重要性体现在能够精确检测微小癌细胞并对组织细胞进行分析。

（Ge等人，2020年）的新研究表明，基于光谱属性将每张图像分类到特定类别（HSI分类）是遥感领域高光谱研究中最活跃的研究方向。HSI面临两个主要问题：1）光谱带范围广泛；2）相对于高光谱数据的大量维度，训练样本数量较少。第一个问题由多种因素引起，如环境变化、天气和时间变化等。一些方法会遇到第二个挑战，导致模型泛化能力不足。本文通过使用像WHU-Hi这样的大型数据集来克服这一问题，防止模型过度拟合。

在高光谱图像分类中，大部分工作集中在确定HSI的光谱特征在分类过程中的作用。因此，许多模型被开发出来，试图用更少的训练次数获得更好的结果（Li等人，2019年）。有多种方法可以实现这一点，例如使用SVM、2D CNN、3D CNN、3D-2D CNN、FuSENet和ConvNeXt（Bergado等人，2018年；Ge等人，2020年；Liu等人，2022年）。除了简单的2D CNN和SVM之外，还有其他方法同时利用光谱和空间数据进行HSI分类。3D CNN需要大量的处理能力，因此不常被使用。另一方面，2D CNN无法处理多分辨率图像，只关注空间特征（Ge等人，2020年）。3D-2D CNN旨在描述光谱和空间特性，但在不同数据集上的表现并不理想（Ge等人，2020年）。

Bergado等人（2018年）提到的大多数模型目前使用混合3D-2D CNN进行HSI分类，这种方法在从图像中提取空间和光谱特征以及使用像素值正确预测类别方面非常有效，但在不同数据集上的表现参差不齐。文献中提出的FuSENet和ConvNeXt模型在计算上比3D CNN更轻量级，并且性能稳定（Bergado等人，2018年；Liu等人，2022年）。传统方法现在比过去更加准确，但由于高光谱图像的复杂性和样本量小，网络结构不能构建得太深（Liu等人，2022年）。

（Li等人，2019年）提出了一种基于权重的方法，使用多个二元支持向量机（SVM）来最大化远程测量HSI各类别之间的光谱差异。他们的方法能够对光谱带进行加权，从而提高分类效果。Xie等人（2017年）也提出了一种类似的基于SVM的方法，他们将连续光谱空间转换为离散光谱空间。基于核的方法在分类前能更好地处理光谱和空间特征。基于核的方法也有研究报道。可以在SVM中使用基于光谱相似性的核。他们得出结论，对于这种情况，基于光谱相似性的核比标准SVM核效果更好。

ConvNeXt结合了视觉变换器的多种设计元素，从而现代化了ResNet模型。将KAN与各种预训练模型结合用于HSI，显著提高了模型的有效性（Govender等人，2007年；Li等人，2019年；Liu等人，2022年）。

特别是对于作物分类，有两项研究：一是“机器学习算法在作物分类中的比较分析”，其中应用了SVM（Kumar & Garg，2023a）、人工神经网络（ANN）和随机森林（RF）（Gupta, Mishra等人，2017年；Kumar & Garg，2023b）等算法，对阿泽尔基高分辨率卫星图像进行作物类型识别（Asgari & Hasanlou，2023年）；二是利用农业生态条件对作物土地进行分类，强调了高空间分辨率和时间序列数据的重要性，使用了Landsat-8和Sentinal-2图像数据集（Tu?a?等人，2024年）。这两项研究都展示了先进算法和高分辨率卫星数据在提高作物分类准确性方面的关键作用。本文详细介绍了不同的KAN层，并基于其性能进行了评估。

基于这些发现，本研究将KAN作为一种替代的深度学习方法，评估其在WHU-Hi数据集上的各种层结构，以找到最合适的方案。

本文旨在研究多种KAN变体在高光谱图像（HSI）中的应用，特别是用于作物分类。具体目标包括：

• 1. 阐明不同KAN结构的基本设计属性和操作原理。
• 2. 评估不同KAN变体的分类性能。
• 3. 确定最适合HSI作物分类的KAN层，并讨论其未来的研究潜力。
• 4. 了解每种KAN变体在HSI背景下的优势和局限性。

通过这项分析，读者将全面了解KAN层，并为未来的农业研究奠定基础。

历史背景

Kolmogorov和Arnold提出的定理表明，每个连续多变量函数都可以用有限数量的连续单变量函数表示，这是称为Kolmogorov-Arnold Networks（KANs）的新神经网络设计的基础。方程1表明，对于定义在有界域上的n维连续函数f（x₁, x₂…, x_n），存在一组连续单变量函数Φ_q和Φ_q,p（Kolmogorov，1961年；Liu等人，2024年）。

$f\left(x\right)=f(x_1,x_1?。$

使用的数据集

本研究使用了WHU-Hi数据集（Zhong等人，2020年），包括WHU-Hi-LongKou（LK）、WHU-Hi-HanChuan（HC）和WHU-Hi-HongHu（HH）。选择这些数据集是因为它们包含了来自中国湖北各地不同农场的多种作物信息。

实验条件

本研究采用了一种基于补丁的方法，通过从每个高光谱场景中提取空间信息来分类高光谱作物图像。原始的高光谱立方体被分割成24 × 24 × 3尺寸的3D图像补丁，而不是处理全尺寸图像，因为全尺寸图像会因冗余信息而难以处理。基于模型的分类方法关注所有感兴趣的像素，从而能够进行评估。

结论与未来展望

本研究深入评估了使用多种Kolmogorov–Arnold Network变体的HSI作物分类。采用统一的架构设计和训练设置，在WHU-Hi数据集上评估了八种KAN模型。ChebyKAN和JacobiKAN层获得了最佳的性能指标，这表明它们在处理光谱-空间模式方面具有关键潜力。结果表明，通过使用基本方法可以实现先进的性能。

未引用的参考文献

Arnol’d，1957年；Gupta等人，2017a；Gupta等人，2017b。

利益冲突声明

作者声明他们没有已知的财务利益或个人关系可能影响本文所述的工作。