人工智能一直是移动网络中的重要组成部分。随着5G 以及边缘计算技术的发展,对人工智能的需求将变得愈发强烈。
本文中,我们将阐述5G 网络与前几代移动通信网络相比的一个本质区别——网络边缘计算的比重会大增,同时我们会就边缘计算在5G 网络里的实现做一个探讨。之后我们会列举一些此新一代网络下的典型应用,它们都需要依赖边缘计算和机器学习来实现。最后,我们将介绍一个结合了边缘计算和深度学习的参考应用——“互联之眼“。
1.概要
随着第五代移动通信(5G)的发展,叠加大数据及机器学习技术的广泛应用,电信行业正在经历着一场新的变革。本文将以当前电信领域里两大热门技术:边缘计算和人工智能相结合的场景作为切入点,为大家展现一下行业里的最新技术发展。 我们会先简单回顾一下相关技术的发展历史,接着列举一些深度学习辅助边缘计算的典型用例,最后详细介绍我们在这一领域的一个参考实践。
2.大数据,神经网络和边缘计算的驱动力
随着第五代移动通信(5G)的发展,叠加大数据及机器学习技术的广泛应用,电信行业正在经历着一场新的变革。本文将以当前电信领域里两大热门技术:边缘计算和人工智能相结合的场景作为切入点,为大家展现一下行业里的最新技术发展。
2.1 基于自组织的分布式网络管理模型的建立移动网络中的人工智能演进 人工智能其实在早期移动网络部署中就有应用。起初,这些系统往往是基于规则(rule)来实现系统自动化,之后自适应的逻辑也慢慢出现。这些主要都用来增进系统的安全性,鲁棒性及辅助服务的无缝迁移。 早期增强网络的常见算法应用包括故障检测,或是基于故障及路由检测实现自动切换以应对系统过载等。之后更复杂的算法应用也相继出现,比如用来为终端用户提供智能服务等。
2.2 5G 网络中的边缘计算
现代 4G 网络的搭建还是以中心化的核心网为主,本地分流(Local-Breakout)往往很难设置并且功能局限性比较大。一般一个典型的欧洲中型运营商会有一到两个中央数据中心可供第三方应用部署。由于诸如亚马逊及其它一些大型互联网企业只在全球范围内零星部署了一些大型数据中心,因此数据包可能需要经过非常长的距离才能到达应用侧。那么,对于具有低时延要求的应用来说,就必须考虑这种物理限制。
我们来做一些简单的计算:波长为1310 纳米的光在常用的Brand B (G.652)光纤里的传播速度为489.34 微秒/百公里,那么即使不考虑误码,交换机或是路由器延时等,从斯洛文尼亚或者匈牙利到达西欧境内最近的亚马逊数据中心需要20 毫秒;普通网络节点里的典型延时大约为1 毫秒;在4G 网络下,典型的国家境内数据中心的通信时延大约为50 毫秒(当然这是一个平均数,实际情况会很大程度上受地理位置,网络接入质量及具体应用等因素影响)。
这就意味着如果要满足一个具有10 – 30 毫秒时延需求的典型增强现实(Augmented Reality, AR)应用,网络侧的时延则需要更低,因此相关的应用节点就必须部署在终端侧附近。这一技术我们就称之为边缘计算,它需要在网络边缘部署利用分布式云设施来提供高度自动化的虚拟环境来加以支撑。
图1 边缘计算:虚线表示具有严格低时延需求的应用部分部署于网络边缘。分布式云:边缘站点的管理与编排是云
图1 描述了如何在5G网络中运用分布式云部署边缘计算应用。根据网络的结构和可用性条件,边缘网络的硬件设施部署方案可能会有不同。最典型的部署方案是基于现有的电信站点,如城市的电信中央机房。这样一个小型云环境一般可提供5到25个像匹萨盒般大小服务器的能力。由于资源有限,管理及监控功能都需要比较轻量级。
根据开源项目如Linux 基金会边缘项目Akraino,这些边缘站点会提供和中心云(虚拟机和容器)一样的基础设施即服务(Infrastructure-as-a-Service,IaaS)环境,并结合部分平台即服务(Platform-as-a-Service,PaaS)的元素。它需要为诸如用以支持本地导流的用户面功能(User Plane Function, UPF)的5G 网络虚拟化网络功能(Virtual Network Function, VNF)和第三方应用或应用平台提供运行环境。 3GPP 标准在5G 里增强了本地分流功能,确保合适的应用数据在网络边缘被连接到合适的应用上。另外,标准也增加了数据流在边缘和中心站点间切换的灵活度以及使添加额外边缘服务更为灵活的特性– 这在标准里被定义为FMSS(FlexibleMobile ServiceSteering)。一个简单的上行视频可以略过深度包检测(Deep Packet Inspection, DPI)。用户面功能(UPF)服务可以分布在边缘站点(取决于硬件的可用性)并且可以像3GPP FMSS 定义的一样形成一条服务链。
5G 核心网负责大多数无线接入之上的服务,如安全性,认证,移动管理,位置服务及所有包处理能力。5G 的核心网架构和4G 核心网有很大区别。5G 的所有网元都按照ETSI 网络功能虚拟化(Network Function Virtualization, NFV)标准被定义成虚拟化网络功能(VNF),同时3GPP 根据面向服务架构的原理设计了整个系统架构。
5G 核心网也因此被称作是服务化架构(Service Based Architecture,SBA),其目标就是增加系统的灵活性和可编程性。这其中有一个值得一提的网元叫网络开放功能(Network Exposure Function, NEF),它对内部及外部可信赖的第三方应用提供了服务接口。这种能力开放是边缘计算的一个关键要素,它使第三方应用能够直接配置网络从而达到更高度的自动化。一个例子是被称为应用导向数据路由(ApplicationInfluence on Traffic Routing)的功能,其能在网络边缘建立本地导流并且能够允许设置FMSS 服务。它提供了基于HTTP 的REST 接口(Application Programming Interface,API)。
边缘计算应用的核心问题之一是运行环境模块部署位置的优选。简单的应用可以使用静态配置,但是将来的应用可以使用智能优化系统来确定模块的分布,比如考虑降低成本同时保持高用户体验。
3.典型案例
3.1 用于工业4.0 的私有边缘云
数字化驱动了第四次工业革命,简单而言它可以理解为信息技术(Information Technology,IT)和自动化运营的融合。信息系统被引入控制和监测生产物流环节。这类系统的一个基本组成部分是节点间的通信。市场上的现有的系统或者试验系统通常都会配备多种通信技术
1. 特别对于关键通信场景,通常会使用4G/3G移动网络来支持人与人间的通信,比如关键任务通信(Mission CriticalPush-to-Talk, MCPTT)
2. WiFi 则通常被用作访问企业数据/数据库的主要接入方式。有些传感器也会使用工业级WiFi 来进行通信。
3. 另一些无线技术比如蓝牙,LoRa,Sigfox,有时还有窄带物联网(Narrow-Band Internet-of-Things,NB-IoT)等会被用来连接传感器和设备。
4. 常规的有线连接常被用于安全系统和摄像机
5. 工业以太网则是用以连接可编程逻辑控制器(Programmable Logic Controller, PLC)的常用方案
工业领域数字化面临的挑战之一就是如何选择一套合适,统一并且完善的接入技术以建立一个易于管理的生产环境。根据我们的设想,未来工厂网络将会由5G 移动宽带(Broadband),基于5G NR(New Radio )的5G 关键通信和窄带物联网(NB-IoT)组成,并且由一个通用的单一核心网接入来提供安全,认证,服务质量保证和必要的移动,通信及其他平台功能等。
3.2 用于自动驾驶汽车的边缘视频分析
根据市场预测,到2025年,全球的互联网汽车数量将增长至大约7亿辆,同时车辆与云端之间的数据传输将达到每月100 PB,而Gartner 在其2018年6月的报告里将这一数字进一步扩大至每月1TB。如此巨大的数据量(并且其主体部分是上行数据)无疑将对网络提出新的要求。
3.3 用于实时多媒体处理的人工智能边缘云
图像序列可以说是自然世界中包含信息量最为丰富的媒介,因此多媒体也被认为是深度学习技术演进的重要推动力之一。 事实上,卷积神经网络(Convolutional Neural Network,CNN,适用于图像处理)和循环神经网络(Recurrent Neural Network,RAN)/长短时记忆网络(Long Short-Term Memory,LSTM,适用于时间序列)成为前两大被最为广泛应用于物联网用例的人工神经网络也很好地说明了这一点。 那么一个有关的话题便是如何在网络边缘对高质量多媒体进行高效实时的处理。我们在下一章中会介绍一个具体用例。
4.参考边缘用例“互联之眼”
电信网络和监控系统通常运行在私有云上。其他则可以选择专业云服务商提供的方案,如亚马逊云服务(Amazon Web Service,AWS),微软Azure云服务等。在这一章中,我们将介绍一个运用了5G网络和人工智能的参考用例–“互联之眼”。它展示了5G 智能网络面临的一些机遇与挑战,比如任务的实时及分布式处理。 我们知道5G 网络的低时延,高带宽,大连接(物联网)等特性。那么一个自然的问题便是基于这张网络,我们可以实现哪些应用?这就意味着我们必须找到这样一些需要低时延,高带宽,大算力的参考用例。 针对上述问题,我们提出了“互联之眼”这一应用,它会涉及诸如IP 摄像头等有大带宽要求的设备。它利用摄像头作为采集设备,对视频流做并行处理,进行事件、运动、物体等的检测,进而快速响应环境变化。举个例子,比如我们想象两辆汽车快要相撞了,但由于遮挡或其它原因,车辆操控者未能及时发现,在这种情况下我们的系统将能够探测出这一风险并主动采取措施避免事故的发生。 下面我们来看一下系统的主要组成部分:
1. 数据源:高清实时数据流
2. 并行处理:部分操作会对所有摄像头的图像进行并行处理,包括降噪,运动检测,目标追踪和基于深度网络的目标识别
3. 位置追踪:我们基于从所有摄像头中抓取的信息建立了一个全局坐标系,并在其中定位目标
4. 主动决策:这里作为决策中心,决定比如是否采取行动,如何行动等。比如在之前的例子里,可以是主动停车以避免碰撞发生或者仅在驾驶员屏幕上显示警告提醒危险情况的发生。
5. 5G 网络和边缘计算:这是系统设施的关键部分,用来支持高带宽,近实时的系统间通信。
模型训练对系统资源的要求比较高,然而又由于其没有低时延要求,因此训练可以放在中心云上进行。模型的推理执行逻辑则必须放在边缘侧。模型训练过程如下:
1. 采集视频样本用以训练
2. 提取视频样本中的关键帧
3. 为图片打标签
4. 加载基于COCO数据集预训练的卷积神经网络(迁移学习)
5. 基于提取的图像对模型做进一步训练
6. 生成检测模型冻结图(Frozen Network Graph)
模型推理执行流程:
1. 将视频流从设备发送到边缘侧
2. 在边缘检测并显示图像
3. 进一步,可以将模型推理运行的效果反馈到训练阶段。但这不是必要步骤。
图 2 “互联之眼”中的训练和推理(高亮处为推理部分)
通过这种方式,我们可以持续更新中心云上的模型训练提升模型表现。同时边缘侧可以下载最新的模型,进行近实时的模型推理执行。这样,我们即利用中心云做了高效的模型训练,又利用边缘云做了快速的推理,充分发挥了这两朵云的各自优势,达到了最理想的效果。图2展示了上述流程。
5.总结
人工智能算法在移动网络部署之初就有所运用。随着5G 技术的发展及深度学习能力的提升,这一趋势将愈发明显,移动网络的自动化程度将越来越高,能力也将越来越强。这也为低时延高带宽应用的发展铺平了道路。为克服物理定律的限制,边缘计算将是实现中不可或缺的部分。 由于 5G 标准尚未完善,关于边缘计算如何实现还存在诸多疑问。在文中,我们结合最新的发展趋势,给出了一些针对特定情况下的可能的方案。 我们探讨的另外一个重要话题就是未来我们期望在如此强大的边缘计算环境里有哪些应用。对此,我们列举了一些我们认为具有代表性的用例,包括工业4.0,自动驾驶以及实时多媒体处理等。最后,我们详细介绍了一个实际参考应用 – “互联之眼“。
致谢
作者在此对合作过的爱立信同事,布达佩斯技术与经济大学,匈牙利罗兰大学(ELTE)和EIT Digital表达感谢。
[作者简介]
Benedek Kovács ,2005 年加入爱立信担任软件工程师,并在之后担任系统工程师。2011至2013 年,Kovács 担任爱立信布达佩斯研发中心的创新经理,主要负责建立创新的组织文化及孵化内部创新想法。之后Kovács在4G VoLTE 方案开发中担任性能管理及可靠性专家角色。现在,他主要参与5G 网络及分布式云并统筹全球工程项目。Kovács 拥有匈牙利布达佩斯技术与经济大学的信息学硕士及数学博士学位。
Tamás Nyíri ,2018 年加入爱立信担任软件工程师,专注5G 网络和机器学习。Tamás 拥有匈牙利罗兰大学(ELTE)计算机学士学位。