人工智能芯片新动向:高通发布AI200和AI250人工智能芯片_pcimasia半导体展2026

基于高通AI200和AI250芯片的加速卡和机架，高通公司发布其新一代数据中心AI推理优化解决方案。高通AI200推出一款专为机架级AI推理设计的解决方案，旨在提供低拥有总成本(TCO)和优化的性能，用于大型语言和多模态模型(LLM、LMM)推理和其他AI工作负载。每张卡支持768GB的LPDDR内存，以实现更高的内存容量和更低的成本。

高通AI250解决方案将为AI推理工作负载带来更高的效率与性能，凭借其采用基于近内存计算(near-memorycomputing)的创新内存架构，通过提供超过10倍的内存带宽提升和降低功耗。

这两种机架解决方案均采用直接液冷技术以提高散热效率，支持PCIe扩展、以太网扩展、机密计算以保障AI工作负载安全，以及160kW的机架级功耗。高通的超大规模AI软件栈，从应用层到系统软件层覆盖端到端，专为AI推理进行了优化。该栈支持领先的机器学习(ML)框架、推理引擎、生成式AI框架，以及LLM/LMM推理优化技术(如解耦合服务)。开发者可借助高通技术的EfficientTransformersLibrary和高通AI推理套件，实现模型的平滑上载和HuggingFace模型的一键部署。高通的软件提供即用型AI应用和代理、全面的工具、库、API和服务，用于AI的运营。

高通AI200和AI250预计分别于2026年和2027年商用。

文章、资料来源：半导纵横

2025PCIM Asia Shanghai — 上海国际电力元件、可再生能源管理展览会暨研讨会将于2025年9月24日至9月26日在上海新国际博览中心举行。上海电子展门票领取及更多资讯，详情请点击：2025PCIM Asia Shanghai — 上海国际电力元件、可再生能源管理展览会暨研讨会