《Internet of Things》：A Quantization Strategy for Federated Learning in Agricultural Internet of Things Devices
编辑推荐：
本文针对农业物联网（Agri-IoT）中资源受限设备部署联邦学习（FL）时通信成本高昂的问题，创新性地提出了最小相对量化误差（MRQE）和最小混合权重量化误差（MWQE）策略。这些方法通过基于梯度幅度的自适应层间精度调整，以及动态融合多种量化模式，在保证模型性能的同时显著降低了上传开销，为动态网络条件下的高效、安全联邦学习部署提供了灵活解决方案。
亮点 (Highlights)
动机 (Motivation)我们观察到，最小平方量化误差（MSQE）算法从全局视角最小化量化误差，而最小相对量化误差（MRQE）算法在建模误差时明确考虑了量化的实数值。这两种算法从不同方面描述了量化误差。将这两种算法结合，可以显著提升模型的表达能力和精度，这使得设计一种混合方法具有重要意义。基于之前的数学分析，我们明确……
联邦学习中的最小相对量化误差 (MRQE In Federated Learning)
在本节中，我们提出联邦最小相对量化误差（FedMRQE）算法。虽然前面的章节重点讨论了在假设服务器端在聚合和分发模型时使用全精度模型的条件下，客户端侧的量化机制，但这种设置紧密地反映了现实中的联邦学习部署。在农业物联网环境中尤其相关，因为客户端设备（如田间传感器和边缘节点）通常……
实验设置 (Experiment Setup)
模型与数据集 (Models and datasets).实验在CIFAR-10和CIFAR-100数据集上进行。CIFAR-10包含10个类别的50,000张训练图像和10,000张测试图像；CIFAR-100包含100个类别，每个类别有600张图像（500张训练，100张测试）。每个数据集都在独立同分布（IID）和非独立同分布（Non-IID）数据划分下进行评估。独立同分布划分将样本均匀分配给客户端；非独立同分布划分是根据狄利克雷分布（Dirichlet distribution）为每个客户端生成的，其集中参数为dα（较小的dα会增加类别不平衡性和……
结论 (Conclusion)
这项工作解决了农业物联网（Agri-IoT）系统中联邦学习通信效率的关键挑战。通过引入最小相对量化误差（MRQE）和最小混合权重量化误差（MWQE）量化策略，我们能够在异构数据分布和有限带宽条件下，以对精度影响最小的方式实现高效的模型更新。实验结果证实，我们的方法在多种比特宽度和数据集设置下，始终优于现有的量化技术，这使得……
作者贡献声明 (CRediT authorship contribution statement)
Jing Liu:撰写初稿，验证，软件，项目管理，方法论，调查，形式分析，概念化。 Boyuan Li:撰写初稿，验证，软件，项目管理，方法论，调查，形式分析，概念化。 Cui Liu:撰写评审与编辑，验证，监督，资源，调查，资金获取，形式分析。 Shengbo Chen:撰写评审与编辑，验证，项目管理，……
利益冲突声明 (Declaration of competing interest)
作者声明，他们没有已知的可能影响本报告工作的竞争性经济利益或个人关系。
