1.3.1 云边端协同AIoT体系架构

智能物联网以智能信息的高效、实时处理为中心，随着边缘计算和边缘智能的引入，将形成云边端协同的AIoT体系架构。如图1-1所示，系统分为三层，包括智能终端层、边缘智能层、云计算层。

图1-1 云边端协同的AIoT体系架构

智能终端层由各种物联网终端（如机器人、无人机、智能车、移动/可穿戴设备等）组成，是AIoT的感知和执行单元。可以完成音频、视频、位置、压力、温湿度等多模态感知数据采集，并执行运动、抓取、跟踪等行为。与传统物联网感知层不同，智能终端层将完成部分的数据处理任务，在终端部署传统机器学习或深度学习模型。由于终端资源受限，一般采用轻量级的模型设计方法，包括网络剪枝/压缩/量化等技术。

边缘智能层是指将计算和智能处理能力部署在靠近终端的边缘设备上，通过边端协同增强计算能力，可以减少计算延迟，支持实时服务。从计算层面来讲，可以将终端计算任务部分卸载到边缘计算节点上；而从智能处理层面来讲，由于终端资源和数据受限，通过边缘群智能体协同可以更好地执行模型训练和推理任务，边端协同深度模型分割、移动边缘联邦学习等成为近年来研究热点。

云计算层支持丰富的物联网应用服务，它使AIoT应用能够通过互联网虚拟地使用计算资源，具有灵活性、可伸缩、可靠性等特征。通常，来自大规模分布式物联网终端和边缘设备的实时数据流通过网络传输到远程云中心，在那里它们被进一步集成、处理和存储。基于海量物联网数据和丰富的计算资源，在云上训练和部署具有较好泛化能力的机器学习模型成为可能。

在云边端协同的AIoT架构中，三者动态分配计算量，有效缓解了云计算平台的数据处理负担，提高了数据处理效率。当实时响应和低时延是关键因素时，主要依靠更靠近用户的边缘计算架构；当计算决策的精确性是关键因素时，主要依靠云服务器。