一線?| 對標英偉達算力芯片？訊飛與華為聯手發布大模型專屬一體機

(資料圖)

騰訊新聞《一線》?作者?肖楓?

“科大訊飛和華為在聯合攻關算力卡脖子的問題?！痹诮张e辦的訊飛星火認知大模型V2.0升級發布會上，科大訊飛董事長劉慶峰介紹，其與華為聯合打造的專屬大模型的軟硬件一體化設備，在單卡算力上對標英偉達的算力芯片A100。此外，劉慶峰表示，還在和華為一道打造面向超大規模大模型訓練的國產算力集群，形成集群化優勢。

劉慶峰介紹，大模型的研發過程，需要可以支撐千億參數規模的大模型并行訓練的算力和框架，還需要幾千張卡同時連續運行?；诖?，系統架構以及并行訓練的集群能力成為國內大模型研發的關鍵。

此次發布的星火一體機，是科大訊飛與華為在AI算力、大模型的合作落地之一，將面向行業、企業客戶，提供基于專用數據的自主可控私有化大模型。據了解，星火一體機基于華為鯤鵬CPU+昇騰GPU，另外聯合華為存儲和網絡提供整機柜方案。

科大訊飛表示，星火一體機的訓練和推理一體化部署，可用于問答系統、對話生成、知識圖譜構建、智能推薦等領域的應用，具備大模型預訓練、多模態理解與生成、多任務學習和遷移等能力。

就在此前的7月份，科大訊飛公布訊飛星火將與昇騰AI聯合，打造基于中國自主創新的通用智能新底座。一方面，訊飛星火認知大模型基于訓練推理一體化設計，實現大模型稀疏化、低精度量化的技術突破，能高效適配昇騰AI，加速大模型的行業落地應用和迭代；另一方面，以昇騰AI為核心，軟硬件協同優化，構建算力集中、性能優越、供給穩定、數據安全的大模型訓練集群。

劉慶峰解釋，華為跟科大訊飛共同在昇騰AI的軟硬件平臺和軟件的支撐工具上，把高算力AI芯片、高性能的算子庫、多卡高速互聯以及分布式存儲結合起來，針對人工智能所需要的最重要的算子庫進行甄別和打磨。在此基礎上，架構科大訊飛的訓練和數據閉環全流程設計，以及訓練和推理一體化設計的自研大模型訓練平臺，中間是支持大規模的異構算力兼容，也支持混合云架構易拓展，使得所有產品架構在安全可控的平臺上。

目前，訊飛星火大模型擁有130億、650億和1750億3個版本的模型參數可選。圍繞星火大模型，科大訊飛正在構建開發者生態，目前有4000多個助手開發者團隊加入星火平臺。劉慶峰預測，訊飛星火大模型預計將于今年10月24日全面超越ChatGPT，明年上半年將正式對標GPT-4。

關鍵詞：