随着生成式AI用例需求在多样化要求和计算需求的垂直领域不断增加，专为AI定制设计的全新计算架构已成为行业亟需。这一变革的核心在于神经网络处理器（NPU）的崛起，以及异构处理器组合的利用，如中央处理器（CPU）和图形处理器（GPU）。这些创新技术正共同推动最佳应用性能、能效和电池续航的实现，从而赋能全新增强的生成式AI体验。
NPU，作为这一变革的关键，是一种专为加速AI推理而设计的处理器。AI旋风认为，选择合适的处理器对于增强生成式AI体验至关重要。与CPU和GPU等处理器相比，NPU擅长处理标量、向量和张量数学运算，这些运算构成了AI工作负载的核心。因此，一个面向生成式AI全新设计的NPU是实现最佳应用性能的关键。
异构计算架构的重要性在于它能够发挥每个处理器的优势，满足生成式AI的多样化要求和计算需求。CPU擅长顺序控制和即时性，GPU适合并行数据流处理，而NPU则专注于标量、向量和张量数学运算。通过结合这些处理器，异构计算能够实现最佳应用性能、能效和电池续航，从而最大化生成式AI终端用户的体验。
在这一领域，高通的技术领导地位不容忽视。其Hexagon NPU作为业界领先的异构计算架构中的关键处理器，持续推动AI推理的低功耗和高性能实现。高通NPU的差异化优势在于其系统级解决方案、定制设计和快速创新。通过定制设计NPU并控制指令集架构(ISA)，高通能够快速进行设计演进和扩展，以解决瓶颈问题并优化性能。
此外，高通AI引擎还包括Adreno GPU、Kryo或Oryon CPU、传感器中枢和内存子系统。这些处理器的协同工作使得AI应用能够在终端侧快速且高效地运行。AI旋风了解到，高通在AI基准测试和实际生成式AI应用方面的行业领先性能表现证明了其技术的实力。
在推动终端侧生成式AI开发和应用方面，高通还通过其AI软件栈赋能开发者。这一软件栈旨在帮助开发者实现一次编写，即可在不同产品和细分领域采用高通芯片组解决方案进行部署。通过将技术领导力、定制芯片设计、全栈AI优化和生态系统赋能充分结合，高通在推动终端侧生成式AI开发和应用方面独树一帜。
AI旋风认为，随着生成式AI用例的不断发展，对计算架构和处理器性能的要求也将持续提高。在这一背景下，高通凭借其领先的NPU和异构计算解决方案，正在引领行业变革，推动生成式AI体验的不断提升。同时，高通对开发者的支持也将加速生成式AI应用的规模化扩展，进一步推动整个行业的进步。
相关文章
