生成式AI变革催生全新计算架构:高通引领异构计算与NPU创新

AI每日新闻2个月前发布 shen
104 0
AI旋风聊天

随着生成式AI用例需求在多样化要求和计算需求的垂直领域不断增加,专为AI定制设计的全新计算架构已成为行业亟需。这一变革的核心在于神经网络处理器(NPU)的崛起,以及异构处理器组合的利用,如中央处理器(CPU)和图形处理器(GPU)。这些创新技术正共同推动最佳应用性能、能效和电池续航的实现,从而赋能全新增强的生成式AI体验。

NPU,作为这一变革的关键,是一种专为加速AI推理而设计的处理器。AI旋风认为,选择合适的处理器对于增强生成式AI体验至关重要。与CPU和GPU等处理器相比,NPU擅长处理标量、向量和张量数学运算,这些运算构成了AI工作负载的核心。因此,一个面向生成式AI全新设计的NPU是实现最佳应用性能的关键。

异构计算架构的重要性在于它能够发挥每个处理器的优势,满足生成式AI的多样化要求和计算需求。CPU擅长顺序控制和即时性,GPU适合并行数据流处理,而NPU则专注于标量、向量和张量数学运算。通过结合这些处理器,异构计算能够实现最佳应用性能、能效和电池续航,从而最大化生成式AI终端用户的体验。生成式AI变革催生全新计算架构:高通引领异构计算与NPU创新

在这一领域,高通的技术领导地位不容忽视。其Hexagon NPU作为业界领先的异构计算架构中的关键处理器,持续推动AI推理的低功耗和高性能实现。高通NPU的差异化优势在于其系统级解决方案、定制设计和快速创新。通过定制设计NPU并控制指令集架构(ISA),高通能够快速进行设计演进和扩展,以解决瓶颈问题并优化性能。

此外,高通AI引擎还包括Adreno GPU、Kryo或Oryon CPU、传感器中枢和内存子系统。这些处理器的协同工作使得AI应用能够在终端侧快速且高效地运行。AI旋风了解到,高通在AI基准测试和实际生成式AI应用方面的行业领先性能表现证明了其技术的实力。

在推动终端侧生成式AI开发和应用方面,高通还通过其AI软件栈赋能开发者。这一软件栈旨在帮助开发者实现一次编写,即可在不同产品和细分领域采用高通芯片组解决方案进行部署。通过将技术领导力、定制芯片设计、全栈AI优化和生态系统赋能充分结合,高通在推动终端侧生成式AI开发和应用方面独树一帜。

AI旋风认为,随着生成式AI用例的不断发展,对计算架构和处理器性能的要求也将持续提高。在这一背景下,高通凭借其领先的NPU和异构计算解决方案,正在引领行业变革,推动生成式AI体验的不断提升。同时,高通对开发者的支持也将加速生成式AI应用的规模化扩展,进一步推动整个行业的进步。

© 版权声明
AI资料包

相关文章

暂无评论

暂无评论...