國際要聞

AMD與Cerebras攜手AI推論突破　OpenAI研究員肯定美國AI晶片合作加速競爭

(圖/ 中華超傳媒 AI圖片)

AI推論競賽升溫　AMD結合Cerebras挑戰AI運算新架構

AMD與Cerebras AI推論合作成為近期科技市場焦點。雙方宣布整合AMD Helios機櫃級AI基礎架構與Cerebras晶圓級引擎，試圖透過不同硬體分工模式，提高大型AI模型推論效率，而OpenAI研究員Jeffrey Wang對Cerebras系統速度的正面評價，也讓外界重新關注AI推論市場競爭格局。

AI產業過去主要聚焦模型訓練能力，但隨著ChatGPT等生成式AI服務快速普及，如何降低模型運行成本、提高即時回應速度，逐漸成為下一階段AI基礎建設競爭核心。

從AI訓練轉向推論效率　硬體競爭進入新階段

近年AI產業競爭重心逐漸從「誰能訓練更大的模型」，轉向「誰能更有效率地運行模型」。大型語言模型在實際商業應用中，需要大量推論運算，包括回答使用者問題、生成文字內容、影像分析及企業自動化服務等。當AI服務規模擴大後，推論成本、能源消耗與延遲時間，都成為企業部署AI的重要考量。因此，除了GPU之外，市場也開始關注各類專用AI加速晶片，希望透過不同硬體設計提升AI服務效率。

AMD Helios結合Cerebras技術　探索解構式AI推論模式

此次AMD與Cerebras合作的核心，在於將兩種不同AI運算架構結合。根據雙方公布資訊，AMD Helios機櫃級基礎架構主要負責高吞吐量工作，例如提示詞處理、大型上下文視窗運算等需求；Cerebras晶圓級引擎則聚焦於模型解碼與Token生成階段，以降低AI回應延遲。這種分工模式試圖將AI推論流程拆解，讓不同硬體負責最適合的工作，以提升整體運算效率。

AMD表示，雙方整合架構在相近互動測試條件下，預期可帶來最高5倍的每瓦每秒Token效能提升，目標是在維持運算規模的同時，提高AI推論經濟效益。

OpenAI研究員肯定速度　市場關注商業化可能性

此次合作受到關注的重要原因之一，是OpenAI研究員Jeffrey Wang對Cerebras系統效能的公開評價。Wang指出，在內部測試中，Cerebras晶片執行模型推論速度相當快速，甚至能明顯縮短工作流程等待時間。這項回饋也讓市場重新檢視高速AI推論硬體在企業應用上的可能性。不過，目前相關技術優勢仍需透過更大規模部署、實際成本分析以及商業應用結果進一步驗證。