英特爾與AI推理芯片領域知名企業SambaNova近日宣布達成重要合作,雙方將共同推出一款面向推理工作負載的異構硬件解決方案。這一創新方案旨在通過整合不同硬件的優勢,為各類用戶提供更高效、更強大的計算支持。
該異構硬件解決方案巧妙地結合了多種硬件組件,包括用于預填充的GPU、用于解碼的SambaNova SN50 RDU,以及用于主機頭節點和“動作”處理的英特爾至強Xeon 6處理器。通過這種組合方式,方案能夠針對推理工作負載的不同步驟,選用最合適的硬件,從而有效化解了現有僅依賴GPU方案的不足,提升了整體性能和效率。
SambaNova方面表示,英特爾至強6處理器在性能上具有顯著優勢。與基于Arm的服務器CPU相比,其LLVM編譯速度提升了150%以上;同時,該處理器的向量數據庫性能較現有x86競品提升多達70%。這些性能提升極大地加速了端到端編程代理工作流,使得開發者能夠更迅速地將創意轉化為具備生產能力的智能體,為AI應用的開發和應用帶來了新的可能。
據悉,這一創新的異構硬件解決方案預計將于2026年下半年正式面向企業、云服務供應商以及主權人工智能等領域提供。屆時,相關用戶將能夠借助這一先進方案,在推理工作負載方面獲得更出色的性能和效率支持,推動AI技術在更多領域的應用和發展。











