
3.4 度量指标
在“云-边-端”体系架构中,度量指标是衡量模型性能的关键和重要依据。针对不同的优化问题,这些指标既可以是优化目标,也可以是问题约束。本节将讨论边缘智能中性能、资源使用、成本、能耗、服务质量、安全性等指标。
1.性能
性能指标涉及应用性能和系统性能两部分,其中:
(1)应用性能与执行时间、延迟和吞吐量相关,任务完成时间可能取决于多个任务的计算时间,加上资源间的数据传输时间,总执行时间取决于计算和传输步骤的关键路径;
(2)系统性能根据应用程序的时延进行评估,时延可分为处理时延和传输时延,应用处理所有任务花费的时间称为处理时延,将数据包发送到目的地的通信时延称为传输时延。在资源调度问题中性能评估使用较多,通常用来评估调度和缓存求解器的可扩展性,并分析连接到云端传感器的平均等待时间和吞吐量。
2.资源使用
由于边缘智能终端设备的容量有限,为设备分配任务时需要考虑到当前可用的资源,通过负载分析可以优化任务配置。尤其,稀缺资源的高效使用至关重要。以CPU和内存为代表的边缘智能终端资源是有限的。在某种程度上,可以牺牲执行时间来换取CPU的使用,对于某些非时间敏感型应用程序而言,这是可以接受的。此外,内存资源消耗对运行大型深度神经网络模型也构成了严格的限制。
除了CPU和内存之外,智能终端设备和边缘资源之间以及边缘资源和云之间的网络带宽也是稀缺资源;尤其,不同设备间地理位置隔离,通信在不同的计算层级间协同,带宽的限制都是一个挑战。值得注意的是,与性能指标(可以称之为跨越多个资源的全局度量)不同,资源使用需要分别在每个边缘智能节点和链路上考虑资源消耗情况。
3.成本
在边缘智能中,大量依托云端资源,无疑会大大增加服务成本,而智能终端大量的野蛮部署也会增加管理成本。同时,将数据回传至云端,算力消耗与传输成本都是巨大的。因此,云端算力下沉,终端数据上移,边缘智能融合,不仅是对计算存储、网络资源的优化配置,更是对成本的极大节约。
4.能耗
能源也可被视为稀缺资源,但与其他资源类型不同,所有资源和网络都消耗能源,即使空闲资源和未使用的网络元素也消耗能源,且其能耗随着使用的增加而增加。同时,能耗还取决于功率消耗的时间量。能源对于边缘智能“云-边-端”架构的每一层级都是重要的,在智能终端设备方面,电池电量通常是其性能的决定因素;在边缘资源方面,通常不由电池供电,故能耗不那么重要;在云端,能耗非常重要,电功率是云计算数据中心的主要成本驱动因素。同时,由系统工程思维可知,边缘智能体系与环境密不可分,故其整体能耗也很重要。
5.服务质量
在边缘智能的“云-边-端”体系架构中,许多因素都会影响服务质量(QoS);例如网络中可用的计算机资源以及消耗资源的联网终端设备数量,需要根据“云-边-端”个性化需求与优势,实现各类设备、用户的管理与控制,对外提供最合适、最经济的计算发生位置。
6.安全性
上述度量指标容易被量化;然而,可靠性、安全性和隐私这些涉及体系架构安全的指标却难以被量化的。沈昌祥院士曾指出:“任何一个安全模型,如果在现实社会找不到对应,那么这个模型一定是错的,因为它违反了社会规律”。因此,现实中是无法通过优化问题来达到安全目的,而是应该通过适当的架构和技术解决方案来保障安全。例如,可以通过增加冗余计算来实现可靠性,通过适当的加密技术来实现安全性,通过匿名化保护个人数据的隐私性。
需要注意的是,为达到安全的优化目标,其解决方案通常与成本、性能相冲突。例如,增加冗余可能会提高可靠性,但同时它会导致更高的成本。同样,从安全性的角度来看,偏好具有高信誉度的服务提供商是有利的,但也可能导致更高的成本。因此,度量指标通常是冲突和目标之间的最佳权衡。
【思维拓展】浅析“度量衡”
度量是计量性能的重要方式,而指标是衡量目标的参数,因此,在“云-边-端”体系架构中,度量指标是衡量和描述性能的重要依据。其实,度量指标与我国古代的“度量衡”具有密切渊源。
度量衡是计量物体的长度、容积和重量的标准的总称;其中,度是计量长度,量是计量容积,衡是计量重量。据史书称,黄帝设立了度、量、衡、里、亩五个量;舜召集四方首领把各部族的年月四季时辰、音律和度量衡协同起来;夏禹治水使用规矩准绳为测量工具,并以自己的身长和体重作为长度和重量的标准。随着人类交换行为的发展和生产力的进步,度量衡也在不断变化,经历了由粗糙变成精细,由简单变成复杂的演变过程。
尤其,秦王朝统一的度量衡制度为两千多年封建社会所沿用,形成了我国计量科学独特的体系,给当时的商业和经济发展提供了便利,保证了国家赋税和俸禄收入的标准化,对国家实行赋税制和俸禄制的统一产生了积极的推动作用。此外,重要典故出处如下:
·《礼记·中庸》(第二十八章):“今天下车同轨,书同文,行同伦。”
·《史记·秦始皇本纪》:“一法度衡石丈尺,车同轨,书同文字。”