連于慧 2024/12/4
英特爾日前舉辦資料中心發展與AI應用媒體說明會。就這麼巧，在說明會登場的前一晚，剛好碰上基辛格Pat Gelsinger被宣布退休，使得整場記者會上，大家都想要了解英特爾對於這樁全球震驚大事件的回應。英特爾亞太暨日本區總經理莊秉翰對此表示，肯定Pat對台灣生態系的堅定支持，以及在領導英特爾期間，制定多項重要策略為未來重回技術和製造的奠定基礎，英特爾會延續Pat帶領的成果，繼續為客戶提供高品質和穩定可靠的產品。
英特爾在資料中心發展與AI應用媒體說明會中，展示了搭載效能核心（P-core）的Intel Xeon 6與Gaudi 3 AI加速器的最新系統和解決方案，攜手約20多家台灣廠商宣示共同推動資料中心發展與AI應用，包括智邦、安提、其陽、永擎、華碩、仁寶、鈺登、鴻海、技嘉、威強電、英業達、神雲、微星、和碩聯合、雲達科技QCT、神準、美超微、緯創資通、緯穎等
英特爾也說明新一代產品如何協助企業讓資源運用最佳化，並透過開放平台有效率地運行大型語言模型（LLM），展示透過文字生成3D影像的LDM3D、檢索增強生成（RAG）、輔助醫生診斷及醫病問詢等AI應用，以及最新的先進散熱解決方案，協助企業打造更永續的資料中心。
莊秉翰表示，隨著AI運算需求日益成長，帶動資料中心和基礎設施大規模轉型，可擴充性、成本、能源效率和安全性成為企業當前關鍵考量因素。因應市場需求攀升，英特爾推出搭載P-core的Xeon 6和Gaudi 3 AI加速器，透過英特爾強大的x86架構與開放生態系，使其能夠支援企業建構具備最佳化總體擁有成本（TCO）及每瓦最佳效能的AI系統，以更佳的效率和成本效益滿足客戶複雜的工作負載。
新一代Intel Xeon 6處理器驅動AI高效能運算
搭載P-core的Xeon 6處理器，專為邊緣到資料中心和雲端環境的AI效能需求而打造，透過超高記憶體和I/O頻寬，以加速運算密集型AI、HPC和資料服務的工作負載。平台最高更可擴充至128個核心、12個記憶體通道，並針對每個插槽提供96條PCIe通道。相較於上一代處理器，Xeon 6效能提升高達2倍，不僅核心數增加、記憶體頻寬加倍，更將AI加速功能嵌入每個核心。此外，Xeon 6亦能有效調度GPU運行資源，目前市場上高達73%的GPU伺服器是使用Intel Xeon系列處理器作為主處理器。
Xeon 6處理器也支援採用DDR5介面與技術的MRDIMM，提供每秒8,800百萬次傳輸（8,800 MT/s）的速度，創造更高頻寬、更低延遲的運算環境，解決HPC、AI及其他大量工作負載。此外，Xeon 6為率先支援CXL 2.0技術的伺服器處理器，以提升記憶體頻寬與容量，實現高效率資料傳輸。
Gaudi 3 AI加速器協助企業打造高價值AI系統
Gaudi 3 AI加速器專為大規模AI運算所設計，可於資料中心或雲端上支援大型語言模型、多模態模型與企業RAG等AI應用程式。與前一代產品相比，Gaudi 3將BF16的AI運算能力提高4倍，並提升1.5倍記憶體頻寬以及2倍網路頻寬，有助大型語言模型和多模態模型的AI訓練和推論。Gaudi 3除了無縫整合PyTorch框架，更提供Hugging Face Transformer模型和Diffusers模型庫，以提升開發人員易用性和生產力。
英特爾也宣布與IBM合作，將Gaudi 3 AI加速器做為服務布署至IBM Cloud上。此外，Inflection AI其最新商用AI系統Inflection for Enterprise也改採用英特爾Gaudi 3 AI加速器，以提供具競爭力的每瓦效能，滿足複雜且大規模布署所需的控制、自定義以及可擴充性。