边缘 AI 是指在边缘设备（例如智能手机、物联网设备和嵌入式系统）上实现 AI 算法，而不是依赖于基于云的基础设施。AI手机和AI PC等边缘AI主力应用，被视为是2024年整个电子供应链在云端AI以外，最有能力带动整体出货动能的关键应用。
IDC数据显示，中国生成式AI投资2022到2027年五年的复合年增长率达到86.2%。Gartner预测，到2026年，80%的全球企业将使用生成式AI，50%的全球边缘部署将包含AI。根据全球技术市场咨询公司ABI Research的数据显示，预计到2025年，边缘AI芯片市场的收入将达到122亿美元，云AI芯片市场的收入达到119亿美元。边缘AI芯片市场有望超越云AI芯片市场规模。
目前，AI正在重塑全球科技产业，以微软、谷歌为代表的国际巨头加紧布局多模态大模型，以英伟达、AMD为代表的芯片巨头主导云端AI算力芯片市场。
未来边缘AI落地产品形态，3+N成为可能
近日，在科创板开市五周年峰会上，云天励飞董事长兼CEO陈宁表示，今后，大模型的参数规模会越来越大，且AI能力会无线提升，直至突破通用人工智能（AGI）。边缘AI未来几年落地的产品形态是“3+N”，3即人形机器人、无人驾驶汽车、低空的无人机三大硬件产品形态；“N”即各类AI硬件产品，包括AI PC、AI手机、智能眼镜等。
海通证券的研报显示，小模型展现性能，边缘AI芯片有望加速落地。边缘AI芯片有望搭载小模型弥补大模型的局限，尽管云端大模型在性能上全面超越小模型，但是存在三大局限，包括较高的成本、运行速度以及对互联网连接的依赖。相比之下，小模型允许用户在没有网络的情况下与虚拟助手进行互动，能够解决AI领域的一部分弊端。未来这类模型有望与智能手机集成，甚至内置在家电中，还有IoT终端设备，为用户提供个性化建议。
英特尔推出边缘AI芯片和平台，助力客户终端产品落地
近日，在北京举办的2024年英特尔网络与边缘计算行业大会上，英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti表示：“英特尔专注于帮助企业简化在PC、边缘和数据中心部署AI的复杂流程，以实现让‘AI无处不在’的愿景。英特尔具备全面广泛的芯片基础。从凌动到至强，我们推出了Atom x7000RE/x7000C系列、Core和Core Ultra系列、Xeon 6700E系列、面向边缘的Arc GPU以及IPU E2100网络适配器。通过软件定义的简便性以及开放多元的生态系统，英特尔能为客户带来丰富的选择。”
以英特尔酷睿处理器为例，酷睿处理器不仅技术含量高，还集成了图形处理能力和AI功能。这使得每一个应用案例都能充分利用多用途处理器（MPU）的优势。酷睿产品的设计非常出色，结合了GPU和客户的需求，以及大模型应用需求等。客户可以利用CPU和GPU，结合英特尔的OpenVINO工具套件，更容易地在平台上运行AI应用。
例如，科东LLM机械臂控制方案基于LLM推理部署在Intel Core Ultra平台上，同时集成了机械臂的控制系统，还有伺服器驱动机械臂本体。这款方案基于科东的机器人操作系统和语言类大模型结合的案例，案例体现了基于AI大模型的视觉识别和运动规划的能力，AI大模型加快了开发层面的高效率，满足了工业场景中轻量化本地部署需求，同时做到数据不出厂。这款方案已经应用在智能工厂。
此外，记者看到宝德AI数字人解决方案基于Intel至强处理器和采用Intel CPU的宝德服务器和工作站为AI算力底座，可以广泛应用于智能语音助手、网络直播、线上教育、零售等。英特尔的多款芯片把 NPU 概念下放到边缘的物联网应用上，使物联网也能在作业时有人工智能的功能。
AMD发力边缘AI市场，推出第二代Versal自适应SoC
今年，继第一代VersalI AI Edge自适应SoC之后，AMD又发布了第二代Versal自适应SoC。在AMD第二代Versal自适应SoC媒体发布会上，AMD自适应与嵌入式计算事业部（AECG）Versal产品营销总监Manuel Uhm表示：“现在的边缘也在发生一场革命，也有越来越多的挑战，因为边缘会面临更多限制，例如功耗和尺寸。”
AMD新发布的第二代Versal 自适应SoC系列为嵌入式系统带来了单芯片的智能性。两款芯片分别是面向AI驱动型嵌入式系统的第二代Versal AI Edge系列和面向经典嵌入式系统的第二代Versal Prime系列。
据悉，面向通用嵌入式领域的第二代Versal Prime系列则着重于将高性能标量计算能力与灵活可编程逻辑相结合，着眼于视频处理、工业控制、软件无线电等对算力和适配性要求极高的场合。相较上一代产品，该系列的CPU性能实现多达10倍的大幅跃升，而继承自Xilinx的可编程逻辑架构则为适配不同接口和加速需求提供了充分保障。
据AMD官方消息，第二代Versal系列芯片的工程样片预计最快将于2025年上半年面世，届时还将推出配套的评估板和系统级模块；而规模化量产也有望在年底实现。
意法半导体推出第二代STM32 MPU和边缘AI套件
意法半导体（ST）推出了边缘AI加速微处理器——第二代STM32 MPU。该处理器提高了工业和物联网边缘应用的性能和安全性，预计在2024上半年批量生产。
7月8日，在慕尼黑上海电子展上的AIoT创新应用论坛上， 意法半导体中国区微控制器、数字IC与射频产品部市场经理丁晓磊分享了ST Edge AI套件的最新进展。ST Edge AI套件，帮助嵌入式开发者优化机器学习模型，帮助数据科学工作者在嵌入式设备上运行机器学习模型，以及帮助产品设计师和创客重新定义产品的重要特性。
本土芯片公司争夺边缘AI市场机会，新品加速上市
近期，两家物联网芯片公司公布上半年业绩报告，乐鑫科技2024年上半年实现营收9.2亿，同比增长37.9%，净利润1.52亿元，同比增长134.85%。除了传统的Wi-Fi芯片产品线带来营收增长外，乐鑫科技推出的ESP32-S系列是边缘侧AI应用芯片，增加了用于加速神经网络计算和信号处理等工作的向量指令，并且已可对接OpenAI的ChatGPT或百度“文心一言”等云端AI应用。
乐鑫科技表示，计算“边缘化”趋势将更多AI和计算能力赋予边缘设备，为SoC设计公司提供更多机会，但同时也提出了更高的PPA要求。
晶晨股份预计2024年上半年实现净利润3.62亿，同比增长95.98%。晶晨股份在业绩预告中显示，晶晨股份基于新一代ARM V9架构和自主研发边缘AI能力的6nm商用芯片已成功流片，并已获首批商用订单。
上海为旌科技成立于2020年8月成立，这家公司的市场总监黄智向业界展示了最新的海山VS839系列及其在智能机器人领域的应用潜力。海山VS839系列芯片是专为AIOT和智能驾驶设计的高性能智慧视觉芯片。该系列芯片采用12纳米工艺，具备四核A55 CPU、双核DSP和4TOPS的NPU算力。海山VS839系列支持星光全彩、红外热成像、3D视觉和环视摄像头等功能，能够提供专业级的图像处理效果，并支撑复杂的AI计算。
7月30日，此芯科技聚焦AI PC领域，发布首款异构高能效SoC此芯P1。此芯科技创始人、CEO孙文剑表示：“此芯科技致力于以高能效算力解决方案，推动端侧AI生态发展，通过AI技术应用，让生活、学习、工作变得更智能、高效、人性化。”
此芯P1使用6nm制造工艺，提供丰富的AI异构计算资源、全方位的安全引擎、多样化的外设接口以及多操作系统支持等特性。强大的多媒体引擎支持4K120帧显示、8K60帧视频解码以及8K30帧视频编码等；高性能的访存子系统配置128-bit LPDDR5低功耗内存，容量可达64GB，数据传输率可达6400Mbps、带宽可达100GB/s。
