近日,信息学院石远明课题组与香港科技大学、香港理工大学研究人员合作,在国际顶级综述类期刊 IEEE Communications Surveys and Tutorials 发表了题为 Communication-Efficient Edge AI: Algorithms and Systems 的论文。该论文针对边缘人工智能的通信瓶颈问题,从算法与系统设计角度全面地阐述了相应的解决方法。边缘人工智能是第六代移动通信技术(6G)的一种潜在的关键技术,通过将机器学习模型的训练和推理过程直接部署到网络边缘,为实现未来6G网络从“万物互联”(Connected Things)到“万物智联”(Connected Intelligence)的愿景提供了重要技术支撑。
高通信效率的边缘人工智能算法设计。与基于云计算的人工智能系统不同,边缘人工智能系统资源的高度分散性、不均匀性、动态变化性、有限性,以及数据分布的非独立同分布性,为人工智能算法的设计带来了全新的挑战。为此,该论文广泛研究了大规模分布式边缘人工智能模型训练的最优化算法,主要包括:零阶算法、一阶算法、二阶算法与联邦优化算法,从而降低算法迭代过程的通信次数及通信带宽消耗。根据大规模边缘人工智能应用中不同的实际约束条件,如数据加密、通信带宽等,该论文所研究的方法为学者和从业者提供了最优算法设计框架及详实的参考资料。
高通信效率的边缘人工智能系统设计。该论文全面阐述了深度融合计算、通信、学习过程的系统设计方案,包括基于数据划分的边缘训练系统、基于模型划分的边缘训练系统、基于计算任务卸载的边缘推理系统及通用边缘计算系统等。针对不同的边缘人工智能系统架构,空中计算、数据混排、编码计算、协作传输等方法可大幅度提高边缘人工智能系统的通信效率。该论文总结的人工智能任务结构与系统存储、计算、通信、隐私等资源匹配的指导思想,为边缘人工智能的研究与产业应用提供了极具价值的参考资料与研究基础。
图2:边缘人工智能模型训练算法示意图。
(a)零阶算法(b)一阶算法(c)二阶算法(d)联邦优化算法
图3:边缘人工智能模型推理系统。
(a)基于服务器的边缘推理(b)设备端-服务器端联合推理