报道称，在嵌入式领域，边缘与端侧AI推理需求不断增长，Arm既有Helium 技术使 CPU 能够执行更多计算密集型的 AI 推理算法，也有Ethos 系列 AI 加速器，以满足更高性能和更复杂的 AI 工作负载。Ethos-U NPU系列是业界首款 AI 微加速器，英飞凌、恩智浦半导体、奇景光电 (Himax)、Alif Semiconductor 和 Synaptics 等领先企业均已推出搭载 Ethos-U 的量产芯片。最近，Arm发布Arm Ethos-U85 AI加速器，这款加速器在性能、算力、应用场景方面进一步拓展，着眼于未来几年的边缘AI的应用所需。
全新Arm Ethos-U85 AI加速器
与上一代产品相比，Ethos-U85 性能提升四倍，能效提高 20%，它支持MAC 单元从 128 个扩展到 2048 个（在 1GHz 时，算力实现 4 TOPs）。Ethos-U85 提供了相同的一致工具链，实现无缝的开发者体验。全新 Ethos-U85 NPU 支持TensorFlow Lite 和 PyTorch 等 AI 框架。Ethos-U85可满足于智能家居、零售、工业等新兴的边缘 AI 场景对更高性能计算的需求。
Ethos-U85支持Transformer 架构和卷积神经网络 (CNN) 以实现 AI 推理。Arm 物联网事业部业务拓展副总裁马健Chloe Ma分析，Ethos-U85 不仅仅提供卷积神经网络 (CNN) 所需的权重矩阵乘的运算，还支持矩阵相乘，这是 Transformer 架构网络的一个基本组成部分。Ethos-U85 增加对Transformer 架构网络的支持，这是优化大模型边缘落地微调时间、提升模型泛化的一个关键特性。
马健表示：“基于 Transformer 的模型具有优异的泛化功能，它将更快地驱动新 AI 应用的发展。Transformer 在视觉和生成式 AI 用例中，比如视频理解、图文结合，图像增强与生成、图像分类和目标检测等方面都极有价值。Transformer 架构网络的注意力机制容易利用并行计算来实现，提高硬件使用效率，使得这些模型能够部署在计算资源有限的边缘设备上。开发者可以通过选用针对 Transformer 架构网络优化的设计，发掘边缘 AI 的新机遇，使这些应用享有更快的推理、更优化的模型性能和可扩展性。”
Ethos-U85 不仅支持低功耗MCU的AI加速。在高性能边缘计算系统中，Ethos-U85与Armv9 Cortex-A CPU相结合，为基于应用处理器的智能物联网平台上运行的AI任务实现加速。这将使 Ethos-U85 能够在工业机器视觉、边缘网关、可穿戴设备和消费类机器人等应用中，带来高效能的边缘推理。
