如何选择边缘AI设备

8月10日，2021年8月10日

边缘计算已经成为最常被谈论的技术趋势之一，随着所有的热门话题，也许你在想，是时候为你的物联网网络投资智能边缘技术了。

托比McClean

相关： ADLINK技术

你将学习:

什么是边缘计算?

●边缘计算的好处

●选择合适的平台

边缘计算已经成为最常被谈论的技术趋势之一，随着所有的热门话题，也许你在想，是时候为你的物联网网络投资智能边缘技术了。但是，在为新边缘设备打开采购订单之前，让我们讨论实际上的边缘计算，并且如果您的应用程序甚至会受益于Edge Technologies。

Edge Computing可以为IoT网络增加一些灵活性，速度和智能，但重要的是要理解Edge AI设备不是智能网络应用面临的每一个挑战的灵活性。在本文的结束时，在确定边缘技术是否适合您的应用程序后，我们将讨论买家在评估EDGE AI设备时应寻找的最佳功能和注意事项。

什么是边缘计算?

边缘计算将IOT带到较高级别 - 在云边缘处，原始数据实时变换为值。它通过在整个网络中重新分配数据处理工作来提升连接节点，端点和其他智能设备的重要性和治理。

边缘计算几乎与云计算完全相反，云计算中的数据从分布式网络流入，然后在中央数据中心进行处理，结果通常被传输回原始的分布式网络，以触发一个动作或影响一个变化。然而，长距离传输大量数据会产生成本。这些成本可以用财务计量，但也可以用其他关键的方式来衡量，如电力或时间。

这就是边缘计算的切入点。当功率、带宽和延迟真的很重要时，边缘计算可能是答案。与集中式云计算不同的是，数据可能要经过数百英里的距离才能被处理，而边缘计算可以在同一网络边缘位置处理数据，这些位置是数据被感知、创建或驻留的(图1)。这意味着处理延迟几乎可以忽略。对功率和带宽的要求通常也会大大降低。

当今边缘计算的主要推动者之一是半导体制造商在不大幅增加功耗的情况下增加处理能力的方式。这意味着位于边缘的处理器可以在不消耗更多能量的情况下，对获取的数据做更多的处理。这使得更多的数据停留在边缘，而不是被转移到核心。这不仅降低了系统总功耗，还增加了响应时间并改善了数据隐私性。

从该开发中受益的一些技术包括人工智能（AI）和机器学习（ML），但这些也取决于降低数据采集的成本，同时增加数据隐私水平。可以通过边缘处理解决成本和隐私。就诸如AI和ML等新兴趋势而言，这两种技术传统上都需要巨大的资源，远远超过通常在端点或智能设备中可用的。现在，由于硬件和软件级别的进步，还可以将这些启用技术嵌入到坐在网络边缘的更小，更多的资源限制设备中。

评估边缘人工智能

选择一个能够执行边缘处理的平台——可能包括运行人工智能算法或ML推理引擎——需要仔细评估。简单的传感器和执行器，即使是物联网的一部分，也可以通过相对简单的集成设备来实现。增加在边缘执行的处理量将需要一个更强大的平台，可能使用高度并行的架构。通常，这意味着GPU，但如果平台太强大，它就会成为网络边缘有限资源的负担。

同样重要的是要记住,一个边缘设备真实世界从根本上是一个接口,因此它可能需要支持一些常见的接口技术,如以太网,GPIO,可以连续,和/或USB(图2)。它也可能需要支持外围设备,如摄像头、键盘和显示器。

边缘也可以是来自舒适的气候控制数据中心的环境非常不同。边缘装置可以暴露于温度，湿度，振动甚至高度的极端。这将对所选择的设备产生影响，以及如何包装或容纳。

另一个需要考虑的重要方面是监管要求。任何使用射频(RF)进行通信的设备都将受到法规的约束，并可能需要获得操作许可证。一些平台将遵循“开箱即用”的原则，但其他平台可能需要更多努力。一旦投入使用，就不太可能对它们进行硬件升级，因此必须在设计周期中仔细确定处理能力、内存和存储，以便为未来性能的提高提供空间。

这包括软件升级。与硬件不同，当设备在现场时，可以部署软件更新。这些无线(OTA)更新现在很常见，很可能任何边缘设备都需要设计来支持OTA更新。

选择合适的解决方案将涉及对所有这些总点的仔细评估，以及仔细看看应用程序的特定需求。设备是否需要处理视频数据，或者可能是音频？它只处理温度，还是它也监测其他环境方面？是否需要总是开启的，或者将在长时间睡觉？它会被外部活动触发吗？其中许多问题适用于部署在边缘的所有技术，但随着处理水平的增加和对输出的预期升高，有必要扩大要求列表。

边缘计算的好处

现在，在技术上，将AI和ML放入边缘设备和智能节点是可能的，这带来了重大的机遇。这意味着，处理引擎不仅离数据源更近，而且该引擎可以对其收集的数据做更多的事情。

这样做确实有好处。首先，它可以提高生产率或数据使用的效率。其次，它简化了网络架构，因为移动的数据更少。第三，它使接近数据中心变得不那么重要。如果数据中心在一个城市里并且离行动很近，最后一点可能看起来不是很重要，但是如果网络的边缘是一个偏远的位置，比如一个农场或水处理厂，这就有很大的不同了。

不可否认，数据在互联网上的移动速度很快。许多人可能会惊讶地发现，你的搜索查询可能会绕地球转两圈，结果才会显示在你的屏幕上。总的运行时间可能是几分之一秒，对我们来说，这实际上是瞬时的。但对于机器和其他智能设备来说，它们构成了互联的、智能的、通常是自主的传感器和执行器，一秒的每一秒都感觉像是一小时。

这种往返延迟是实时系统的制造商和开发人员真正关心的问题。数据往返于数据中心的时间并不是无关紧要的，当然也不是瞬间的。减少这种延迟是边缘计算的一个关键目标。它正在与更快的网络合作，这是5G将发挥作用的地方。但随着更多设备上线，更快网络的推出将无法弥补我们预期的累积网络延迟。

分析人士预测，到2030年，联网设备的数量将达到500亿部。如果这些设备都要求为数据中心提供宽频带，那么网络将永远拥塞。如果他们中的许多人在一个管道中操作，等待数据从上一阶段到达，总延迟将很快变得非常明显。边缘计算确实是缓解网络拥塞的唯一可行的解决方案。

然而，虽然一般情况下确实需要边缘计算，但边缘计算的具体好处仍将在很大程度上取决于应用(图3)。这就是边缘计算定律适用的地方。这些法则将帮助工程团队决定边缘计算对于您的特定应用程序是否是正确的选择。

边缘计算的4条定律

第一定律是物理定律;这个是不变的。射频能量以光速传播，就像光纤网络中的光子一样。这是个好消息。坏消息是它们不能再快了。因此，如果往返时间仍然不够快，那么边缘计算可能是正确的选择。

Ping测试提供了一种简单的方法来测量一个数据包在网络连接的两个端点之间传输需要多长时间。在线游戏通常托管在多个服务器上，玩家会一直ping服务器，直到找到延迟最低的服务器，这意味着数据可以以最快的速度传输。这就是哪怕是一秒的时间对于时间敏感的数据的重要性。

延迟也不完全依赖于传输机制。在每一端都有编码器和解码器，物理层需要将电子转换成任何正在使用的能量形式，然后再将它们转换回来。所有这些都需要时间，即使处理器以GHz的速度运行，时间也是有限的，并且取决于移动的数据量。

第二定律是经济学定律。这个可能更灵活一些，但随着处理和存储资源需求的飙升，它也更难以预测。利润总是很微薄，但如果在云上处理数据的成本突然上升，这可能会证明是盈利还是亏损。

云服务的成本始于购买或租用服务器、机架或刀片的成本。这取决于CPU内核的数量、所需的RAM或永久存储的数量以及服务水平。有保证的正常运行时间比没有保证的服务水平成本更高。网络带宽基本上是免费的，但如果您需要最小级别的带宽，则应该考虑为其付费，在评估成本时需要考虑这一点。

也就是说，在边缘处理数据不受这种可变成本的影响。一旦产生了设备的初始成本，在边缘处理任何数量的数据的额外成本几乎为零。

数据之所以有价值，是因为它意味着或代表了某些东西。这突出了第三条法则，即国家法则。任何捕获信息的人现在都可能受到数据隐私法的约束，该法律存在于捕获数据的地区。这意味着，即使你是捕获数据的设备的合法所有者，你也不允许跨越地理边界移动数据。

例如，这将包括欧盟数据保护指令、通用数据保护条例(GDPR)和亚太经济合作隐私框架。加拿大的《个人信息保护和电子文件法案》符合欧盟的数据保护法，而美国的《安全港安排》也显示了类似的合规情况。

边缘处理可以克服这一点。通过在边缘处理数据，它不需要离开设备。在便携式消费设备中，数据隐私越来越重要;手机的面部识别使用当地的人工智能来处理相机图像，所以数据不会离开设备。CCTV和其他安全监控系统也是如此。使用摄像头监控公共空间通常意味着图像由基于云的数据服务器传输和处理，这涉及到数据隐私问题。在相机中处理数据更快，更安全，可能消除或简化数据隐私措施的需要。

最后，我们需要考虑墨菲定律，这条定律表明，如果某件事可能出错，它就会出错。当然，即使是在世界上最精心设计的系统中，也总有出错的时候。边缘处理可以消除许多可能的故障点，这些故障点与通过网络移动数据、将数据存储在云中以及依赖数据中心的处理能力有关。