针对异构AI-PC协作计算环境的拓扑感知自适应调度算法

《Scientific Reports》：Topology-aware adaptive scheduling algorithm for heterogeneous AI-PC collaborative computing environments

　　

摘要

随着配备异构处理单元（CPU、GPU、NPU）的AI个人电脑的普及，资源调度变得极为复杂，因为神经网络的拓扑结构在推理阶段和模型架构之间会发生变化。本文提出了一种基于拓扑感知的自适应调度算法，该算法将实时计算图分析集成到了异构资源协调机制中。该算法包含三个协同工作的组件：一个轻量级的运行时拓扑提取模块，用于捕捉不断变化的神经网络结构；一个预测性资源建模系统，用于预测设备可用性模式；以及一个自适应调度优化器，综合考虑拓扑依赖性、设备异构性和时间资源波动。在六个具有代表性的神经网络架构（ResNet-50、MobileNetV3、YOLOv8、BERT-Base、Vision Transformer、EfficientNet-B4）和三个异构AI个人电脑平台上进行的实验评估表明，与现有最佳方案相比，该算法在性能上取得了显著提升：延迟降低了13.5%，吞吐量增加了15.6%，NPU利用率提高了30.1%，能源效率提升了16.1%。该算法在动态工作负载条件和多种拓扑结构下表现出强大的性能稳定性，即使在资源故障和测量不确定性存在的情况下也能保持正常运行。