边缘 AI：彻底改变实时数据处理和自动化
作者: DigiKey 技术营销工程师 Shawn Luke
从智能家居助手（如 Alexa、Google 和 Siri）到能够提示驾驶人员发生车道偏离的高级驾驶辅助系统 (ADAS)，世界依赖边缘 AI 为这些日益普及的重要设备提供实时处理能力。边缘 AI 在设备内直接使用人工智能，在数据源附近进行计算，而无需依赖远程数据中心的云计算。边缘 AI 带来了更低的延迟和更快的处理速度，降低了对持续互联网连接的依赖，同时减少对隐私方面的担忧。这项技术代表着数据处理方式的重大转变，随着对实时智能需求的增长，边缘 AI 具备在许多行业继续发挥其强大影响力的优势。 
边缘 AI 的最大价值在于它能为关键应用带来速度。与云/数据中心人工智能不同，边缘 AI 不会通过网络链路发送数据并期望获得合理的响应时间。相反，边缘 AI 是在本地（通常是在实时操作系统上）进行计算，擅长提供及时响应。对于要在工厂生产线上应用机器视觉，并在一秒内判断产品是否可以被分流的这类情况，边缘 AI 完全胜任。同样，您也不希望汽车发出的信号依赖于网络或云服务器的响应时间。
用于实时处理的边缘 AI
许多实时活动正在推动对边缘 AI 的需求。智能家居助手、ADAS、病人监护和预测性维护等应用都是该技术值得注意的应用。从对家庭问题的快速响应，到车辆车道偏离的提示，再到发送到智能手机的血糖读数，边缘 AI 提供了快速的响应，同时最大限度地减少了隐私方面的担忧。
相当长一段时间以来，我们已经看到边缘 AI 在供应链，特别是在仓储和工厂方面的良好表现。在过去十年中，运输行业的技术也有了长足的发展，例如可以穿越云层等条件完成导航的送货无人机。边缘 AI 也为工程师带来了巨大的好处，尤其是在医疗技术领域，这是一个至关重要的进步领域。例如，开发心脏起搏器和其他心脏设备的工程师可以为医生提供查找异常心律的工具，同时还能主动对设备进行编程，为何时寻求进一步的医疗干预提供指导。医疗技术部门将继续增加对边缘 AI 的使用，并进一步提高能力。
生成边缘 AI 模型
现在，日常生活中越来越多的系统都具有某种程度的机器学习 (ML) 交互功能，因此了解这个世界对于工程师和开发人员规划未来的用户交互至关重要。
边缘 AI 的最大机遇是基于统计算法进行模式匹配的 ML。这些模式可以是感知到人的存在、有人刚对智能家居助手说了“唤醒词”（如 Alexa 或‘Hey Siri’）或电机开始晃动。对于智能家居助手来说，唤醒词是在边缘运行的模型，无需将语音发送到云端。它可以唤醒设备，让它知道是时候下达进一步的指令了。
生成机器学习 (ML) 模型有几种途径：要么使用集成开发环境（如 TensorFlow 或 PyTorch），要么使用 SaaS 平台（如 Edge Impulse）。建立一个好的 ML 模型的大部分“工作”是创建一个有代表性的数据集，并做好标记。
目前，边缘 AI 中最流行的 ML 模型是监督模型。这种模型基于带标签和标记的样本数据的训练，输出是已知值，可以检查其正确性，就像导师在批改作业一样。这种类型的训练通常用于分类工作或数据回归等应用中。监督式训练非常有用，准确度也很高，但它在很大程度上依赖于带标记的数据集，可能无法处理新的输入。 
运行边缘 AI 工作负载的硬件
在 DigiKey，我们完全有能力协助实现边缘 AI，因为它们通常在单片机、FPGA 和单板计算机 (SBC) 上运行。DigiKey 与顶级供应商合作，提供多代可在边缘运行 ML 模型的硬件。今年我们已经见证一些重磅新型硬件的发布，包括 NXP 的 MCX-N 系列，而且我们很快就会备货 ST Microelectronics 的 STM32MP25 系列。
在过去几年中，来自创客社区的开发板在运行边缘 AI 方面一直很受欢迎，包括 SparkFun 的边缘开发板 Apollo3 Blue、AdaFruit 的 EdgeBadge、Arduino 的 Nano 33 BLE Sense Rev 2 以及 Raspberry Pi 4 或 5 型。
神经处理单元 (NPU) 在边缘 AI 领域的应用越来越广泛。神经处理单元是一种专用集成电路，旨在加速基于神经网络的 ML 和 AI 应用的处理速度。神经网络是基于人脑的结构，其中有许多相互连接的层和称为神经元的节点，用于处理和传递信息。正在开发的新一代 NPU 具有专门的数学处理功能，包括 NXP 的 MCX N 系列和 ADI 的 MAX78000。
我们还看到了用于边缘设备的 AI 加速器，这一领域尚待定义，早期值得关注的公司包括 Google Coral 和 Hailo。
ML 传感器的重要性
带有 ML 模型的高速相机在供应链中发挥作用已有相当长的时间。它们已被用于决定诸如仓库中的产品发送到哪里等类似的事务，或在生产线上发现有缺陷的产品。我们看到，供应商正在开发低成本的人工智能视觉模块，这些模块可以运行 ML 模型来识别物体或人。
尽管运行 ML 模型需要嵌入式系统，但仍会有更多产品作为支持 AI 的电子元件而不断推出。这包括支持 AI 的传感器，也称为 ML 传感器。虽然为大多数传感器添加一个 ML 模型并不会提高它们的应用效率，但有几类传感器可以通过 ML 训练大大提高工作效率：
• 相机传感器，可开发 ML 模型来跟踪画面中的物体和人物
• IMU、加速计和运动传感器，用于检测活动情况
有些 AI 传感器预装了可随时运行的 ML 模型。例如，用于感知人的 SparkFun 评估板就预编程人脸检测，并通过 QWiiC I2C 接口返回信息。有些 AI 传感器，如 Arduino 的 Nicla Vision 或 Seeed Technology 的 OpenMV Cam H7, 则更具开放性，需要针对所寻找的对象（缺陷、物体等）建立经过训练的 ML 模型。
通过使用神经网络提供计算算法，可以在物体和人员进入相机传感器视野时对其进行检测和跟踪。
边缘 AI 的未来
随着许多行业的发展和对数据处理技术的依赖，边缘 AI 将继续得到更广泛的应用。通过在设备层面实现更快、更安全的数据处理，边缘 AI 的创新将是深远的。我们认为在不久的将来会扩展的几个领域包括：
1.用于神经网络算法计算的专用处理器逻辑。
2.与云计算的巨大能耗相比，低功耗替代方案的进步。
3.更多集成/模块选择，如 AI 视觉部件，将包括内置传感器和嵌入式硬件。
随着 ML 训练方法、硬件和软件的不断发展，边缘 AI 已做好充分准备，将呈指数级增长，为众多行业提供支持。在 DigiKey，我们致力于走在边缘 AI 趋势的前沿，我们期待通过众多的解决方案、顺畅的互动、强大的工具和丰富的教育资源，为世界各地的创新工程师、设计师、建造者和采购专业人士提供支持，让他们的工作更加高效。如需了解更多边缘 AI 信息、产品和资源，请访问 DigiKey.cn/edge-ai。
DigiKey 技术营销工程师 Shawn Luke
Shawn Luke 是 DigiKey 的技术营销工程师 。DigiKey 是全球公认的电子元件和自动化产品尖端商务分销领域的领导者和持续创新者之一，提供着来自 3,000 多家优质名牌制造商的 1,560 多万种元器件。
