AIPress.com.cn報道
2月28日消息,據《華爾街日報》披露,OpenAI將導入英偉達最新基于Groq技術的AI推理芯片。
英偉達計劃在下個月于圣何塞舉辦的 GTC 開發者大會上,發布一款全新的處理器。這款產品的核心使命非常明確:全力加速 AI 推理過程。
據悉,新產品將集成 Groq 設計的芯片技術。這一舉措旨在幫助 OpenAI 等頭部客戶構建運行速度更快、能效比更高的 AI 系統,以應對日益龐大的模型推理需求。
有消息稱,英偉達已與 Groq 簽署了一項價值約 200 億美元的技術授權協議。
AI 推理是指模型在訓練完成后實際運行和響應用戶請求的過程。隨著大模型應用場景不斷擴大,推理環節的算力需求也在快速增長。過去幾年,英偉達憑借 GPU 在模型訓練領域占據主導地位,如今將推理單獨拎出來作為產品方向,顯示出行業重心正在發生變化。
Groq 此前以自研的 LPU 推理芯片受到關注,主打低延遲、高吞吐的推理性能。此次與英偉達合作,意味著其技術路線獲得了行業巨頭的認可,同時也為英偉達在推理領域補充了新的能力。
目前,雙方尚未就此事公開回應。更多細節預計將在 GTC 大會期間披露。












