理解物联网驱动的智慧城市中人工智能部署的能源效率 萨尔瓦托雷·布拉曼特（Salvatore Bramante）、 菲利波·费兰迪诺（Filippo Ferrandino）和 亚历山德罗·奇拉尔多（Alessandro Cilardo）

《IoT》：Understanding Energy Efficiency of AI Deployments in IoT-Driven Smart Cities Salvatore Bramante, Filippo Ferrandino and Alessandro Cilardo

边缘AI硬件能效优化研究：对比嵌入式GPU、FPGA及MCU/ISPUs在智能城市中的应用，通过神经网络实测评估发现GPU性能比高但功耗大，MCU/ISPUs低功耗特性显著，结合量化剪枝可适配分布式感知场景。

　　

摘要

人工智能（AI）和人工智能与物联网（AIoT）技术在网络边缘的广泛应用为智慧城市带来了机遇与挑战。本文重点关注AI在城市环境中的能效问题，对代表性的边缘硬件平台（包括嵌入式GPU、FPGA以及超低功耗微控制器/传感器类设备）进行了系统的比较分析，评估了这些平台在物联网驱动的智慧城市基础设施中处理AI工作负载的适用性。评估基于对多种神经网络及相关数据集的直接测试，通过推理延迟、吞吐量和每次推理的能耗等指标来量化计算性能和能耗表现。在所测试的网络-硬件组合中，这些设备的推理功耗范围非常广泛：超低功耗智能传感器处理单元（ISPUs）的功耗低至01–10毫瓦（mW），而嵌入式GPU的功耗则高达1–1瓦（W），这凸显了不同配置之间的巨大功耗差异。结果表明，嵌入式GPU在计算密集型任务中具有较高的能效比；尽管微控制器（MCU）/ISPU类设备的吞吐量有限，但结合量化与剪枝技术后，在超低功耗场景下仍具有显著优势，因此非常适合用于智慧城市中的分布式感知与控制应用。总体而言，这项比较分析为选择适用于异构、可持续的AI驱动城市服务的硬件提供了指导。