高通和微軟在Microsoft Build開發(fā)者大會上攜手推動終端側AI規(guī)模化擴展-新消息

要點：

(資料圖片僅供參考)

終端側生成式AI解決方案將查詢和推理轉移到PC和手機等邊緣終端，讓開發(fā)者和云服務提供商能夠打造更加經濟可靠，且隱私性更高的生成式AI。

高通和微軟確認達成合作關系，將面向消費級和企業(yè)級終端、以及工業(yè)設備，規(guī)模化擴展AI能力，為用戶帶來行業(yè)領先的AI體驗。

在Microsoft Build 2023開發(fā)者大會期間，高通技術公司展示了公司最新的終端側AI創(chuàng)新，包括在驍龍^?計算平臺上運行生成式AI，以及開發(fā)者在采用驍龍平臺的Windows 11 PC上創(chuàng)建應用的新路徑。

高通技術公司產品管理高級副總裁Ziad Asghar表示：“為了讓生成式AI真正為更多人所接受和使用，許多推理工作需要在邊緣終端上處理。我們擁有行業(yè)領先的AI硬件和軟件，可以賦能開發(fā)者充分利用我們強大的AI能力，在搭載驍龍平臺的筆記本電腦、手機和其他終端上打造令人驚艷的全新用戶體驗。”

AI的未來既需要終端側AI，也需要云端AI。在終端側運行AI應用可提升成本效益、增強隱私性、個性化并降低時延。與僅在CPU或GPU上進行AI工作負載處理比較，驍龍平臺集成專用的高通AI引擎，處理AI工作負載可以更加高效，讓小巧輕薄的設備也能支持終端側AI。

在Microsoft Build期間，高通技術公司將帶來技術演示，并帶來能夠支持在下一代Windows 11 PC上開發(fā)生成式AI的工具。Stable Diffusion作為一款文本生成圖像的生成式AI模型，參數(shù)超過10億，目前已經能夠完全在終端側運行。高通技術公司表示，未來幾個月內，包括大語言模型(LLM)在內的參數(shù)高達100億的模型將有望在終端側運行。為了增強高通AI軟件棧并幫助開發(fā)者打造下一代終端側AI體驗，高通AI引擎Direct SDK將在Microsoft Build上首次面向公眾推出。借助ONNX Runtime和高通AI軟件棧，如今用戶在使用5G版Surface Pro 9和聯(lián)想ThinkPad x13s的時候就可以在其搭載的第三代驍龍8cx平臺上的AI引擎運行AI工作負載。

微軟Windows芯片和系統(tǒng)集成公司副總裁Pavan Davuluri表示：“為了在廣泛的終端和應用領域擴展AI，云端和終端側處理缺一不可。通過將微軟在云端AI上的領先優(yōu)勢以及Windows平臺的能力與高通技術公司的終端側AI專長相結合，我們將加速由生成式AI體驗所帶來的發(fā)展機遇。”

高通技術公司還將在大會期間展示為驍龍平臺原生編譯熱門應用可帶來的顯著性能提升，并上線全新的開發(fā)者門戶網站，便于從統(tǒng)一的入口集中獲取驍龍本開發(fā)所需的關鍵工具、資源和支持。

欲了解高通技術公司在Microsoft Build開發(fā)者大會上的更多信息，請訪問https://build.microsoft.com/en-US/partners/24488a42-2828-4baf-8e10-28e51938ac6e?source=partners。

關于高通公司

高通公司正在賦能人與萬物智能互聯(lián)的世界。基于“統(tǒng)一的技術路線圖”，我們將驅動智能手機變革的眾多技術——包括先進的連接、高性能低功耗計算、終端側智能等，高效地擴展至不同行業(yè)中的下一代智能網聯(lián)終端。高通和驍龍平臺帶來的創(chuàng)新將助力實現(xiàn)云邊融合，變革眾多行業(yè)，加速數(shù)字經濟發(fā)展，并改變我們體驗世界的方式，創(chuàng)造更加美好的生活。

高通公司包括技術許可業(yè)務（QTL）和我們絕大部分的專利組合。高通技術公司（QTI）是高通公司的全資子公司，與其子公司一起運營我們所有的工程、研發(fā)活動以及所有產品和服務業(yè)務，其中包括半導體業(yè)務QCT。驍龍和高通品牌產品是高通技術公司和/或其子公司的產品。高通專利技術由高通公司許可。

關鍵詞：