搜尋

會員登入

搜尋

導覽

會員
廣告
廣告

英特爾加速打造代理式AI時代的開放式基礎架構

瀏覽次數:33

英特爾於開放運算計畫(Open Compute Project)全球峰會上,公布Intel GPU D 系列(代號Crescent Island)的最新技術細節、推出以Intel Xeon處理器為基礎的全新機櫃設計,並展示開放式軟體與生態系的創新成果。

隨著開放式模型改變代理式AI(Agentic AI)的經濟性,市場對具備更高彈性、成本效益與高能源效率的基礎架構需求與日俱增。這些進展共同強化了英特爾在開放、異質AI基礎架構上的布局,透過結合通用運算、專用加速、開放式軟體與符合標準的系統架構,最佳化不同AI工作負載的效能與效率。

代理式AI正將推論轉變為多步驟工作流程,涵蓋資訊檢索、推理、協調、工具使用與執行,而x86 CPU在其中扮演關鍵角色。開放模型雖讓企業擁有更多選擇,但功耗限制、記憶體瓶頸與成本壓力,也使AI擴展日益成為系統級的挑戰。

英特爾Xeon代理式AI機櫃生態系
英特爾Xeon代理式AI機櫃生態系

要滿足這些需求,企業需要易於部署與管理的整合式異質基礎架構。英特爾以成熟的x86軟體生態系為基礎,透過開放且可互通的軟體,結合CPU、GPU與專用加速器,讓不同工作負載能使用最合適的運算資源,進而提升整體工作流程的資源利用率、效能與效率。

英特爾於OCP全球峰會中展示與生態系夥伴共同開發、採用Xeon 處理器的新款機櫃設計,以滿足代理式AI日益成長的運算需求。其中許多設計採用開放運算計畫的Open Rack v3(ORv3)標準,簡化在開放式資料中心基礎架構中的部署與整合。

隨著代理式AI工作流程日益複雜,通用運算也必須承擔更多工作,包括協調工作負載、處理資料、管理I/O,以及執行各項任務,確保加速器持續發揮效能。為因應這些需求,部分Xeon 6+配置可讓單一機櫃的核心數超過46,000個,機櫃總功耗為133.45 kW,藉此提高CPU運算密度,支援代理式AI大規模部署。

憑藉二十年來在機櫃級系統的創新,以及廣泛的x86軟體生態系,Xeon提供擴展代理式AI所需的高密度通用運算基礎。Xeon可與GPU及專用加速器協同運作,負責協調工作負載、執行任務並管理資料傳輸,讓整體系統維持高效運作。隨著AI基礎架構持續演進,效能衡量日益著重於單一機櫃在符合目標延遲要求的情況下,能支援多少個AI代理同時運作。Xeon透過維持資料順暢流動、工具持續執行,並確保加速器獲得所需資料,協助系統最大化實際工作產出。

Microchip資料中心伺服器(Data Center Server)時脈與同步模組解決方案
特別企劃〉電子科技〉

Microchip資料中心伺服器(Data Center Server)時脈與同步模組解決方案

Microchip提供完整的Timing & Synchronization(時脈與時間同步)產品組合,涵蓋伺服器主板、PCIe®介面、高速網路、AI加速器、儲存系統以及…

Microchip提供完整的Timing & Synchronization(時脈與時間同步)產品組合,涵蓋伺服器主板、…