边缘AI：让智慧从指尖绽放

May 28, 2024

Fanny Hu

发布于2024-05-28

我们的生活正在被越来越多的智能设备所环绕。家里的智能音箱随时响应你的需求，小区门口的智能门禁系统帮你开门，出门甚至可以打一辆没有司机、自动驾驶的出租车。而这些看似日常的场景背后，其实都隐藏着一种神奇的力量——边缘人工智能。

就像电影中的“魔法”，边缘AI在我们的生活中默默发挥着作用，让一切变得更加智能、高效和便利。如今，我们常常会听到“云端协同”的描述，这是指“云”指的是云计算，而“端”就是生活中这些无处不见的智能设备，二者相互合作、渗透融合，共同支撑着智能世界的运转。

那么，你是否曾好奇过这些“魔法”背后的秘密，以及它们是如何在边缘设备上实现的呢？资深大数据和AI工程师Alex Lin，带领我们一起走进边缘AI计算的世界。

边缘AI计算：云计算的最强搭档

Alex表示，尽管云计算已广泛应用，但随着数据量激增，云计算面临网络带宽和计算吞吐率的瓶颈。例如，自动驾驶数据需要实时处理，云端计算会导致响应延迟，存在安全隐患。相比之下，边缘计算可直接在终端设备上进行数据处理，仅需将计算结果上传云端，实现更快响应和低延迟。与分布式计算不同，边缘计算更强调在终端上独立部署计算任务，达到更高效、实时的计算和推断。

边缘AI计算具有以下几个主要特性：

●实时响应：边缘AI计算使得人工智能模型可以直接部署在边缘设备上，在本地实时处理数据并决策。这种实时响应能力对于例如自动驾驶、智能物联网和工业自动化等许多需要实时反馈和决策的应用场景至关重要，有助于提高系统的效率和性能。

●降低网络负载：边缘AI计算可以减少对网络带宽的需求，因为大部分计算任务在本地设备上执行，而不是通过网络传输到云端进行处理，不仅可以减少网络传输延迟，还能够降低数据传输的成本和网络负载，让系统更加稳定可靠。

●灵活的部署方式：边缘AI可以采用虚拟机、容器、裸机等多种部署方式，根据应用需求选择硬件，此外还可以在断网的情况下保证业务持续。

●数据隐私和安全：因为边缘计算的数据不必传输到云端处理，这对于医疗保健、居家智能等安全需求高的应用场景具有重要意义。

图片来自Bing AI图片生成

关键技术和挑战

边缘AI计算涉及神经网络、AI大模型应用和机器学习等前沿技术。神经网络作为计算基础主要用于数据分类、模式识别和决策，大模型应用的优化是解决边缘环境资源限制的关键，机器学习算法则能够助力智能化的决策和预测。结合这些技术，Alex也分享了边缘AI计算的一些技术挑战以及解决思路。

挑战一：资源受限问题

边缘设备的计算、存储和能源资源通常有限，这限制了边缘计算的模型规模和复杂度。针对这一问题，Alex表示，目前可以通过采用轻量级的AI模型和算法减少参数量、计算量和存储量来适应边缘设备的资源限制。比如今年3月，Meta AI团队通过改进算法推出了专为端侧部署而设计的大语言模型产品MobileLLM系列，Meta和高通还宣布将在2024年合作推出能直接在手机、电脑和移动头显等终端设备上运行的Llama3。此外，在硬件层面，还可以采用硬件加速器和低功耗芯片等技术来提高边缘设备的计算和存储效率。

MobileLLM的设计路线，图片来自Meta AI

挑战二：高实时性问题

边缘AI应用通常需要实时响应数据并即时决断，特别是在如自动驾驶和智能物联网等需要快速决策的应用场景中。针对这一问题，可以通过使用实时计算和流式处理技术，即时处理和响应边缘设备上的数据，从而减少数据延迟。同时，也可以采用边缘缓存和预取技术，预加载和缓存数据和模型以减少等待时间。

挑战三：模型部署和更新问题

跟传统的服务中心只需要更新中心服务器不同，边缘设备通常分布广泛且数量庞大，如何有效地将模型部署到边缘设备上，并及时更新和维护模型是当前一个需要重点解决的问题。针对这一挑战，Alex表示目前很多企业会采用灰度发布等技术来降低更新过程对系统的影响和风险。所谓的灰度发布是一种渐进式的软件发布策略，当版本升级时，一部分用户先于其他用户使用新版本；待新版本稳定后，逐步将新版本推送到所有用户，这不但能减少一次性发布的风险，也能提高更新效率。

挑战四：异构性和标准化问题

传感器、摄像头、智能手机等边缘设备的硬件平台和操作系统的差异性大，应用场景也各异，这给边缘AI计算的开发和部署带来了一定的复杂性。目前，业界和学界都在着力推动制定统一的接口和协议实现边缘AI计算的标准化，降低边缘设备的异构性和兼容性问题。

边缘AI应用场景

边缘AI计算在安全、制造、零售、医疗和农业等领域的应用十分广泛。通过边缘AI计算，各个行业都能够实现更高效的数据处理和智能化决策，从而推动产业的数字化转型和智能化升级。

安全领域

由于边缘计算可以在本地设备进行推断和决策，无需将敏感数据传输到云端，从而保护数据的隐私性以及减少模型被攻击和篡改的风险。此外，边缘AI计算还可以实现智能化的安全监控和管理，通过分析本地数据，发现潜在安全风险和漏洞，并采取相应的安全措施。在实际应用中，边缘AI计算在智能监控和智能家居等安全系统中具有重要应用价值。例如，智能监控摄像头可以利用边缘AI来检测如盗窃、入侵等异常行为，如智能门锁等智能家居设备，也可以利用边缘AI来识别家庭成员和访客等来保障家庭安全。

智能制造

在工业领域，边缘计算并非全新概念，在目前主流的工业控制系统中，底层嵌入设备中的计算资源均可视为边缘计算资源。然而，此前这些资源存在着纷杂、独立、低效等问题，未能实现充分的互联，也缺乏标准化和平台化。为了满足现代应用场景对实时、安全、大容量、高速度、自适应计算和通讯的要求，工业信息物理系统逐渐普及，并在基础设施层实现设备扁平互联。通过服务组合对设备进行动态管理，比如使用边缘AI分析设备传感器数据，检测设备运行状态并预测可能的故障，有助于采取预防性维护措施，减少生产中断和维修成本，并实现新旧设备的快速替换和上线。

智能零售

目前,中国的许多零售商积极利用边缘AI技术打造智能商店。比如,京东7Fresh系统通过摄像头和传感器实现智能仓储、数据分析、无人收银等功能,并对店内安装的摄像头和传感器返回的数据进行分析，优化了商品陈列，也为商家提供精准营销的数据支撑。顺丰于2017年推出的"丰E足食"项目结合动态识别和边缘AI,为消费者带来便捷而高效的购物体验。阿里巴巴的"淘咖啡"无人超市则运用视觉和传感技术实现全自助购物，消费者只需要一部手机和一个淘宝账号就能实现全流程无障碍购物。这些解决方案充分利用了边缘AI,为消费者提供更高效便捷的购物体验。

京东7fresh超市的无人收银系统，图片来自首席数字官

智慧医疗

近年来，医疗领域引入了越来越多如平板电脑、健康监测器等边缘设备，用以收集患者数据并触发相应动作。过去，大多数边缘设备的数据处理能力有限，需要将数据传输到云端分析后再回传边缘设备，可能造成医疗时机的延误或患者信息泄露，近年来，借助AI技术实时处理和分析本地数据成为重要趋势。比如由英特尔推出的第 12 代智能酷睿处理器和 COM-HPC 模块等技术支持的边缘 AI 服务器，可以将AI处理器整合到体积更小、能耗和价格都更低的设备中。此外，类似AppleWatch这样的智能手表，通过配备边缘AI模型，可以直接监测用户的心率、睡眠质量和运动情况，并提供健康建议和预警。

智能农业

边缘AI能够提高农业生产效率、降低生产成本、减少资源浪费。例如，通过与传感器技术结合，实时监测土壤湿度、温度、光照等农田环境参数，再通过智能决策系统提供精准的农业管理建议，帮助农民优化农作物种植和灌溉管理。其次，边缘AI还可以应用于智能农机设备中，例如智能农用机器人或拖拉机，通过视觉识别技术和深度学习算法识别作物病害、杂草和成熟度，实现智能化的农业作业，不仅减少人工劳动成本，还可以提高作业效率和精度。另外，边缘AI还可用于预测农业生产中的灾害风险，如病虫害爆发、气候变化等，提前发现潜在风险和采取防治措施，降低农作物损失。

未来展望与发展趋势

随着人工智能向边缘扩展，边缘计算正在成为AI发展的下一个主战场，很多企业都逐渐将数据存储迁移到边缘云服务器。据IDC数据显示，2020年有超过500亿的终端设备联网，超过50%的数据在网络边缘进行分析、处理和存储。STL的研究表明边缘计算潜在市场总额将从2020 年的100亿美元增长到2030年的 5430亿美元，十年间复合年增长率高达 49%。

图片来自STL Partners

当前，边缘AI计算与5G、分布式边缘云、数字孪生等诸多前沿技术紧密结合，推动着边缘AI计算更广泛的应用：

5G的低延迟和高带宽特性充分满足了边缘人工智能的实时性，能够实现更快速的数据传输和响应，尤其对于自动驾驶和智能制造等需要快速决策和数据处理的场景具有重要意义。此外，5G网络切片技术能根据应用需求和优先级分配网络资源，与边缘AI结合可以实现定制化的网络服务，进而提高边缘智能应用性能和拓展应用场景。
分布式边缘云技术可以实现资源的协同利用和任务的分布式处理。边缘设备可以通过与分布式边缘云的连接，获取更多的计算资源，从而实现更复杂的数据处理和分析任务。同时，边缘计算节点也可以将任务分配给分布式边缘云中的其他节点进行处理，增加任务的并行执行能力和加速提高性能和可扩展性。
数字孪生技术。数字孪生是指通过数学建模、仿真和实时数据反馈，创建物理系统的数字化镜像，以实现对物理系统的实时监测、预测和优化。一方面边缘计算提供了实时的数据处理和分析能力，数字孪生模型可以根据实时数据对物理系统的状态进行准确建模和预测。另一方面，数字孪生技术可以利用边缘计算节点上的计算资源，对模型进行调整和优化，进而增强对物理系统的实时监测和控制。

参考资料

关于作者

Daisy Zhang 是一名资深科技记者和编辑。曾在硅谷多家媒体但任科技记者职务，长期追踪中国以及北美地区的科技动态，曾独立采访大量斯坦福大学、伯克利大学教授，创业公司CEO、风险投资人等，撰写多篇影响力超过百万级别的科技类文章。同时创立华谷君一管理咨询公司，持续为包括成都、北京等地的中国地方政府提供产业研究咨询服务。