端侧/边缘AI盛宴正在成局––GPU成为关键推手

搜索最新SoC解决方案
关于汽车电子...物联网...安全...音频...视频

2024年，AI技术在移动设备、个人电脑和汽车智驾等领域飞速发展，成为多个领域中创新与发展的核心驱动力。作为全球重要的电子与半导体市场，中国在"Feature+AI"的端侧应用中也取得了显著成就。展望2025年，中国半导体行业有望在端边侧AI技术上取得突破性进展。

www.eet-china.com, Jan. 02, 2025 – 

回顾刚刚过去的2024年，人工智能(AI)技术在移动设备、个人电脑、汽车智驾、数字家电、智联医疗和工业应用等领域飞速发展，成为多个领域中创新与发展的核心驱动力，并为几乎所有领域的发展提供着强大的支撑。作为全球最大的电子与半导体产品市场之一，中国企业也在积极引入AI相关技术，在过去两年里特别是在"功能(Feature)+AI"的端侧应用中取得了显著成就。展望2025年，中国半导体行业有望在端边侧AI技术创新、应用拓展以及产品升级等多方面取得突破性进展。

作为全球领先的图形处理和AI计算硅知识产权(IP)提供商，Imagination Technologies在过去两年中见证了中国半导体行业对AI技术需求的增长。这种需求不仅推动了Imagination在中国IP业务上的持续发展，还促进了与众多客户的深度合作，基于Imagination的GPU技术和生态系统，共同定义和开发了即将广泛应用的边缘智能(edge AI)和端侧应用。这些新需求吸引了新的客户和生态伙伴，各方共同努力将创新和创意转化为切实可行的工程解决方案。

2025年的热点––边缘和端侧AI技术及应用

到2025年，计算需求正从智能计算基础设施向终端设备扩展，端侧和边缘AI的趋势愈发明显。这种趋势主要受两方面因素的驱动：一是端侧或边缘AI与具体应用或业务紧密结合，因其能大幅提升产品功能或用户体验；二是端侧或边缘设备的AI功能需要实时性和完好性，减少对带宽的依赖，使得训练好的模型可以在越来越多的端侧设备上运行。

例如，在重视稳定性、安全性和可靠性的工业领域，边缘智能带来的更高自主性、临近环节协同、高效资源利用、预测性维护和快速流程及品种控制等能力，正在成为企业提升盈利能力的重要手段。制造商需借助边缘AI模型实现转型，这正是Imagination公司的专业技能所在。Imagination的解决方案非常适合那些需要实时响应或者因安全限制无法将数据传输到云端的应用场景。

最新的AI模型正在智能工业应用中发挥重要作用。例如，视觉Transformer被用于实时异常检测；脉冲神经网络(SNN)用于管理物联网传感器流中常见的事件驱动数据；图神经网络(GNN)则用于理解组件之间的相互依赖性，这对预测性维护至关重要。这些模型都能在边缘设备上高效运行，而非依赖云端计算，从而保障数据安全并支持实时决策。此外，通过Imagination的GPU加速，这些模型的性能得到进一步提升。

端侧/边缘AI所需的先进GPU

在过去几年以大模型为核心的AI浪潮中，通用计算GPU因其并行计算能力和可编程性而大放异彩。然而，边缘硬件不仅要处理单一模型的推理任务，还需应对设备上的所有并行加速任务、用户交互任务以及设备管理任务。因此，边缘AI设计需要一种全局视角，其中AI用例必须与其他功能共存，更重要的是，它们还必须共享热预算和进行热管理，这是随着性能提升和晶体管密度增加而出现的新瓶颈。在未来的边缘AI应用中，每瓦特运算能力(TOPS/W)将比峰值运算能力(TOPS)更重要。

另一个非常重要并在大模型应用中得到验证的规律是，AI模型和算法领域唯一不变的就是快速变化和迭代，硬件设计者需要通过提升加速器的能效和可编程性，确保其设备能够应对未来的需求。此外，端侧/边缘设备和应用的多样性也是一个关键因素。硬件设计不仅要适配当前流行的模型和某一类特定应用，还要支持下一代模型和快速变化的应用需求。这需要软硬件结合，构建可适应未来发展的软件栈，以避免针对某种特定模型或应用开发的加速器的局限性，这对于新品推出速度更快的中国系统厂商及其主芯片供应商尤为重要。

GPU作为计算任务的优秀加速器，已经在云端AI工作负载中表现出卓越的性能、可扩展性和可编程性。鉴于这些优势，Imagination正在增强其基于GPU架构的AI能力。该架构已在过去30年间为边缘设备提供了高能效的图形和计算支持，同时还能够与RISC-V CPU和各种AI加速器完美搭配，形成满足用户需求的解决方案。通过基于开放标准的计算软件栈，Imagination正在帮助开发者释放这些能力，从而推动边缘AI的进一步发展。

点击阅读更多

 Back