TAG :英特爾

  • View More q.JPEG
    半導體

    難道高通AI PC佈局藏隱憂? 才動了買英特爾的念頭

    連于慧 2024/9/23

    連蘋果都全面轉用Arm架構,為什麼高通會想去併購英特爾的PC設計部門買個x86門票? 以下分析原因和這樁併購大戲可能發生的劇情走向。
     



    1. 是「被要求」,幫嫡長子一把。總不能看英特爾一直趴在地上口吐白沫....今年股價都跌掉60%,半導體晶片牽涉到國防軍力,英特爾不能亡......但如果這樣,Pat Gelsinger根據原本計劃把製造部門獨立出去就好,為什麼要連IC設計部門也要賣掉? 另外,英特爾把製造和IC設計部門都分拆賣掉後,難道要英特爾轉型為IP公司,對標Arm嗎?
     



    不過,高通這麼一家精於法律戰的企業,絕對不是吃素的。說是「被要求」去拉英特爾一把也未必,搞不好高通想趁著英特爾體弱氣虛的時候,看有什麼便宜的好東西可以順便收進口袋,還可以趁機會把英特爾的狀況從頭到腳都看個清楚明白。
     



    資本市場一向是弱肉強食,2015年Avago可以收購博通,2017年博通對高通提出1300億美元的收購計畫,到了2020年Nvidia對ARM提出收購要約。美國資本市場就是,只要是有利可圖,專業經理人可以去說服董事會把公司賣掉,大家賺得盆滿缽滿皆大歡喜。

    問題比較大的反而是製造部門,誰要接手英特爾的製造部門?接手後要如何重振製造業務?
     



    二是,這次AI PC大戲由微軟、高通、Arm擔任主角,但高通與Arm之間的矛盾很深。高通之前買了一家新創公司Nuvia,希望可以藉由Nuvia的技術成果,讓之後推出的處理器由Arm架構逐漸轉為高通自研Arm架構,目標就是對標蘋果的自研處理器,希望在PC領域能追趕上蘋果。
     



    不過,Arm認為Nuvia的技術是未經同意轉給高通,因此一狀把高通和Nuvia告上法院,也讓高通和Arm之間加深矛盾,更讓高通的AI PC佈局埋下一些變數。
     



    其實,別看蘋果在PC領域一路攻城掠地,把x86架構換掉改成自研Arm架構,好像很容易似的。對高通而言,PC這座大山沒這麼好攻下。今年高通搶下頭香推出的AI PC後,又被吐槽性能不夠好跑不動遊戲,恐怕還是要x86來才行,曾經一度讓大家想起英特爾的好。
     



    第三,這轟轟烈烈的大戲怎麼收場? 別擔心,Nvidia/Arm、高通收購NXP、英特爾收購高塔半導體都已經示範給你看,通過各國的反壟斷審查是一項不可能的任務,尤其是中國反壟斷審查,中國是高通手機晶片的最大市場,不可能放棄的。
     

    第四,萬一高通真的整個接手英特爾,台積電會不會失去一個重要大客戶? 不擔心,因為這發生可能性極低。英特爾的強項是設計,它的製造做不起來,不會變成高通接手就做的起來,頂多高通可以無後顧之憂裁撤更多冗員而已。
     



    第四,回顧一下英特爾何以陷入這樣的困境?四大領域皆失守:


    智慧型手機輸給Arm
    AI革命徹底輸給Nvidia
    數據中心市佔率被AMD蠶食
    回頭做晶圓代工又完全趕不上台積電
  • View More qualcomaipc.jpg
    半導體

    高通AI PC首戰未能叫好又叫座,英特爾開始被期待?

    高通為AI PC敲鑼打鼓了一年,更是強力主打口號“PC正在重生”,試圖將AI PC的氣勢炒到最高點。只是,近期不少評測報告都反應AI PC有遊戲功能跑不動、無法執行部分軟體的問題,演變成高通+微軟打頭陣的AI PC大戲,後續恐有叫好不叫座的隱憂。
     



    過去數十年來,PC的運作都是微軟Windows+英特爾x86處理器的組合。1990年代起,「Intel Inside」更是所有PC和NB的正字標記,標誌著英特爾的光輝歲月。但這次的AI PC時代揭幕,打頭陣的處理器居然不是英特爾,而是「Arm Inside」的高通處理器晶片。
     



    「Arm Inside」的處理器在PC領域中蠶食鯨吞,關鍵里程碑應該算是2020年蘋果推出M1,宣布放棄用了20年的英特爾架構,成功採用自研的Arm架構處理器,成為全球第一家PC產品而不用依賴英特爾或是AMD的公司,更讓全球的晶片開發商更積極探索Arm架構應用在PC的可行性。
     



    然而,這次AI PC大戲登場後,意外地市場居然又開始期待起英特爾了,這是怎麼回事?
     



    隨著各品牌的AI PC在市場上開賣後,很多評測主都紛紛發現採用高通Arm架構的Snapdragon處理器的AI PC,居然無法執行遊戲和部分程式,暴露出Windows on Arm的最大缺點是軟體相容性問題。
     



    不得不說,蘋果M1捨棄英特爾而採用Arm架構處理器,不是Arm有多厲害,是蘋果夠強大。同樣是採用Arm架構,這次高通領銜主演的Windows on Arm不像蘋果這麼強運,而是又再一次遇到困難。
     



    Windows on Arm始終面臨開發者工具的兼容、開源環境等問題,當然有人把問題核心指微軟,認為微軟的開發者工具鏈一向不友善Arm,而開發者在Windows on Arm的體驗性不佳,導致對x86的黏著度更高,變成一個彼此責怪的負循環。
     



    此前,英特爾曾公開表示,Arm以模擬方式支援PC軟體,但使用者的體感仍與x86平台差距甚遠,會持續凸顯英特爾耕耘長久的生態鏈價值。
     



    回過頭來,也可以說蘋果自己研發的Arm架構處理器會如此成功,是因為是跑自家OS系統,畢竟蘋果也無法甩鍋給微軟。
     



    採用高通處理器的AI PC當然也有很多優點,第一是省電續航的表現力非常出色,可以維持一整天時間。二是可以在離線狀態下也可以使用大型語言模型(LLM)功能。基本上只要不跑太複雜的軟體,不會出什麼太大問題。簡而言之,Windows on Arm處理器陣營的AI PC最大賣點是省電、續航,其他軟硬體的問題先暫時不要要求太高。
     



    對比AI PC正式發布之前的雄心勃勃,高通的首波並未如預期收割各種溢美之詞,但這只是高通進軍PC的第一步,還有進步空間是正常的。
     



    外傳,微軟和高通的AI PC的獨家合作協議到2024年底,2025年聯發科和Nvidia合作開發Windows on Arm處理器會接著問世,接棒炒熱Windows on Arm處理器,更進一步挑戰x86架構CPU地位,而英特爾領銜主演的x86版本AI PC即將第三季上市。AI PC確實讓PC重生,對Arm、英特爾,甚至是對高通、聯發科這些傳統手機晶片的玩家,未來都是重要戰場,而最大贏者可以是消費者,大家可以多看看、多比較,然後做出最棒的購物選擇!

    相關新聞:
    COMPUTEX「面子」讓給黃仁勳,高通賺「裡子」就盆滿缽滿

    AI PC大戰開打,高通拿下首局勝利

    生成式AI的時代弄潮兒,高通如何成為接棒者?
  • View More intel pat.JPG
    半導體

    英特爾基辛格放下「傲慢」擁抱台灣,應給予掌聲

    Computex 2024特別熱鬧,火藥味也十分濃厚。AMD和高通輪番上場直球對決自己的CPU優於英特爾,Nvidia黃仁勳是絕對的GPU宣道者,更不用說還有Arm和聯發科、Nvidia的強大結盟。
     



    英特爾執行長基辛格(Pat Gelsinger)在Computex 2024開幕主題演講中大力反擊Nvidia指出,不認同黃仁勳一直讓你們所想信的(傳統處理器在AI時代已失去動力)觀點,摩爾定律(Moore’s Law)明明還活得好好的!
     



    基辛格強調,英特爾作為PC晶片的領導廠商,依然對AI普及有重要的影響力,現在的AI風潮就像25年前的網際網路時代初臨,潛力十分巨大,是推動半導體產業規模在2030年前達到達1兆美元的最大推動力。
     



    他更強調,英特爾從半導體製造到PC、網路、邊緣運算和資料中心等領域都有全面佈局,最新推出的Xeon、Gaudi和Core Ultra平台,更可以結合英特爾的硬體和軟體生態系,提供適合的解決方案,協助合作夥伴搶攻未來龐大的商機。
     



    不僅如此,基辛格這次來台參加COMPUTEX,更是頻頻對台灣公開「示愛」表示,英特爾與台灣合作夥伴深耕39年,「 IT」是Intel +Taiwan,還表示感謝台積電的先進技術助攻,讓英特爾的Lunar Lake成為AI PC重頭戲。 徹底改頭換面一改過去常常把台灣很危險、對台積電不太友善的言論掛在嘴邊。他身段放得極低,COMPUTEX期間還去合作夥伴的攤位站台、簽名。
     



    雖然在COMPUTEX上,大家都喜歡拿英特爾開玩笑,拿英特爾的CPU來彰顯自家性能,但不得不說,基辛格肚量很大,想想英特爾是一家多麽驕傲的公司,連台積電創辦人張忠謀都曾這樣形容基辛格「有點不客氣,對台積電也很不客氣!」
     

    在英特爾的官方網站上對自己公司文化的描述是:「我們的目標是打造改變世界的技術,以改善全人類的生活。」基辛格更曾公開表示,英特爾過去給客戶「傲慢」的感覺,現在英特爾要好好找回「Grovian」葛洛夫式文化和「Tick-Tock」(產品以製程微縮和處理器架構更新方式交替)的節奏性。






    今年56歲的英特爾,曾經是全球半導體龍頭、最偉大的企業之一,驕傲是其來有自。但為什麼基辛格這次的台灣行,會出現這麼大的轉變?
     



    因為他很清楚,只有台灣在全世界擁有完整的AI硬體產業供應鏈,加上台積電的半導體先進製程技術更是能幫助英特爾重返榮耀的唯一路徑,沒有第二個法子。
     



    英特爾最新的處理器Lunar Lake原本是要採用自己的 20A 節點半導體技術,後來卻是以台積電3nm製程N3B製造。這背後代表的最大意義在於,Lunar Lake是英特爾第一次把最高階x86核心處理器給委外生產,在此之前,最核心的x86處理器都是英特爾自己生產。
     



    台積電與英特爾過去曾合作低階Atom處理器。英特爾上一代Meteor Lake還是採用自己的Intel 4製程,加上台積電5nm製程的繪圖晶片塊(GFX tile)、台積電6nm的系統晶片塊(SoC tile)及輸出入晶片塊(IOE tile)。
     



    英特爾接下來針對DT和電競的NBArrow Lake平台,會採用自己的20A製程? 還是台積電3nm製程? 傳出可能混用,部分自己的Intel 20A,部分由台積電3nm製程代工。
     



    基辛格在COMPUTEX主題演講中也在台上展示了Panther Lake晶圓。英特爾將會在2025年推出Panther Lake,將是第一次採用英特爾自己的18A節點。
     



    同時,對於眾多競爭對手為了搶占AI PC大餅,紛紛將槍口對準英特爾之際,公司也強調,英特爾2024年第一季度交付的AI PC處理器數量,已超過所有競爭對手的總出貨量。即將推出的Lunar Lake處理器,將為來自20家OEM廠商、超過80款不同型號的AI PC提供強大運算效能。英特爾也預計在今年出貨超過4,000萬個Core Ultra處理器,進一步鞏固其在AI PC領域的領先地位。
     



    英特爾更以共同創辦人之一Gordon Moore曾說:「所有已完成的事都能夠被超越」來宣示英特爾對AI未來發展藍圖和技術佈局的決心。
     



    重返英特爾至今滿三年的基辛格,重建英特爾之路每一步都如履薄冰。從初期的自信滿滿,對台灣、台積電都砲火猛烈,三年後的今天,不但在全球佈局上與聯電建立起合作關係,基辛格這次來台灣更是把身段放得極低,熱情擁抱台灣與供應鏈,更是公開讚美台積電。無論如何,還是要給予放下「傲慢」的基辛格一點掌聲。
     



    基辛格曾經在回鍋出任英特爾CEO時興奮說道:「今天我在這裡從事我夢想的工作,心中興奮之情猶如我18 歲第一次走進英特爾。」 不知道今日的基辛格,是否仍保有回鍋英特爾第一天時的興奮之情。

    相關新聞:

    30年前,張忠謀主動打電話給黃仁勳,開啟兩家公司合作情緣

    中國大基金三期撒480億美元鎖定三大目標:AI晶片、ASML機台替代、HBM存儲

    台積電魏哲家看COMPUTEX“黃仁勳炫風”,暗示Nvidia晶圓代工需要“漲價” 
  • View More ASML high NA.JPG
    半導體

    英特爾搶頭香完成ASML第一台High NA EUV組裝,志在搶贏台積電

     

    英特爾宣布,美國俄勒岡州希爾斯伯勒的研發基地中,已完成業界首台ASML供應的商用高數值孔徑極紫外光微影設備(High NA EUV)組裝,型號為TWINSCAN EXE:5000。
     



    該機台正在進行多項校準步驟,預計2027年啟用,率先用於Intel 14A流程,協助英特爾推廣未來流程藍圖。 此設備將投影印刷成像到晶圓的光學設計進行改造,明顯提升下世代處理器的圖像解析度和尺寸縮放。
     



    英特爾計劃於2025年Intel 18A的產品驗證,以及未來Intel 14A的量產階段,都會採用0.33和0.55數值孔徑的EUV微影設備。
     



    《高數值孔徑極紫外光微影設備High NA EUV小科普》
     



    高數值孔徑極紫外光High NA EUV技術使用人工的13.5納米光波長。 此一光波長是利用強大的雷射光束,照射加熱至將近22萬攝氏度的錫滴上而產生,此溫度高出太陽表面平均溫度40倍。 光束從含電路圖案模板的光罩反射,再穿過高精度鏡組打造的先進光學系統。
     



    NA(Numerical Aperture)數值孔徑為衡量光收集和聚焦能力的重要指標,用在光學系統上,決定了光刻的實際圖案解析度和縮小晶體管尺寸,以及能夠做到的製程節點。 然而,要進一步製造尺寸較小的晶體管,仍需要全新的晶體管結構和相關製程步驟。
     



    ASML目前的EUV曝光機NA只有0.33,對應的解析度為13nm,可以生產金屬間距在38~33nm之間的晶片。 往下發展到金屬間距縮小到30nm以下,也就是對應的製程節點在5nm以下,解析度就不夠了。 或是需要用多重曝光(pattern shaping)技術來輔助,會導致成本增加且影響良率。
     



    ASML新一代的高數值孔徑EUV設備EXE:5000可以做到0.55 NA,解析度縮小到8nm。 相較於0.33數值孔徑的EUV微影設備,高數值孔徑EUV微影設備(或0.55數值孔徑的EUV微影設備)可為類似的晶片尺寸提供更高的影像對比度,可減少每次曝光所需 的進光量,並縮短每層列印時間,從而提高晶圓廠的產能。
     



    採用第一台高數值孔徑EUV的英特爾指出,當High NA EUV微影設備與其他在英特爾晶圓代工服務的領先製程技術相結合時,印刷尺寸預計將比現有EUV機台縮小1.7倍。 由於2D尺寸縮小,密度將提高2.9倍,英特爾將持續引領半導體產業發展更小、更密集的圖案化(pattterning)技術,進一步延伸摩爾定律。
     



    《台積電為什麼不急著導入高數值孔徑EUV? 》
     



    過去半導體進入EUV時代,全球也是三星第一家先使用EUV設備的Foundry廠,台積電第一代7nm製程仍是用多重曝光,第二代7nm製程才改用EUV技術。
     



    晶體管架構從FinFET(鰭式場效晶體管)轉換到GAA(環繞閘極場效晶體管)架構,競爭對手三星、英特爾都在3nm製程搶著採用GAA晶體管,台積電的3nm電晶體架構仍是沿用FinFET,直到2nm製程才會改採 GAA晶體管架構,預計2025年量產。
     



    從EUV技術導入、採用GAA電晶體,一直到使用高數值孔徑EUV技術等歷程,可以看出台積電的作風偏向謹慎保守,不會衝第一個採用新技術。
     



    台積電曾回應何時使用高數值孔徑EUV設備時表示,技術本身的價值只有在為客戶服務時,方能彰顯出來。 每當新的工具或設備,台積電都會先研究,看看工具的成熟度和成本,再進一步評估如何實現。


     



    圖說:ASML的TWINSCAN EXE:5000系統的總重量超過150噸,將先分裝於250多個貨櫃中,並集中裝入43個集裝箱,集裝箱由多架貨機運送至西雅圖,再利用20輛卡車 運輸到俄勒岡州。 一台售價將近4億美元! ! !

    相關新聞:
    台積電:除了AI,沒一個能打的!!
    ASML首季財報靠中國獨撐,淨系統收入貢獻高達49%
     
  • View More intel 1.JPG
    半導體

    當科技戰火燒到英特爾,中國將徹底與西方脫鉤?

    在中國,有三家深具代表性的美國科技公司:英特爾、微軟、蘋果。在過去門戶大開的20年中,長驅直入中國市場。當美國與中國從貿易戰打到科技戰,現在已經演變成中國與西方世界的對立與對抗。這把科技戰火,最終是要燒到這三家美商科技巨頭。
     



    2023年,微軟在中國市場做出兩個動作,一是正式關閉領英(LinkedIn)中文版APP,退出耕耘近10年的中國市場,也代表最後一個退出中國市場的西方社群媒體。二是協助位於北京的微軟亞洲研究院 (MSRA) 裡的頂尖AI專家撤出中國。
     



    2023年9月,傳出中國禁止政府相關部門使用蘋果iPhone手機,鼓勵使用國產手機,惟該消息隨後被中國官方否認。由於蘋果一直是股神巴菲特最大重倉的科技股,2023年第四季,巴菲特罕見減持蘋果的股份,雖然減持比例很小,但這確實是一個訊號。
     



    2024年3月底,傳出中美對抗再升級,這次的祭旗對象是在中國地位始終屹立不搖的英特爾。傳出中國官方下令將逐漸限制在伺服器和PC中採購英特爾、AMD的晶片,轉為採購國產晶片。同時,政府採購指南也將排除微軟的Windows作業系統和海外製造的數據庫軟體,全數轉為國產化。
     



    對蘋果、英特爾、AMD而言,中國市場的營收占比不小,分別約不到20%、27%、15%。無論從CPU地位來看,或是營收占比,英特爾與中國都算是深度綁定,因此衝擊也最大。
     



    這一年來中國密集朝蘋果和英特爾開刀,也被視為是中國與西方世界“切割”的象徵。尤其是拿英特爾祭旗,更被形容為“翅膀硬了”、“要徹底與西方決裂”。
     



    英特爾在1985年正式進入中國市場,在北京設立第一個代表處。 主要是因為1979年,中國通過了《中外合資經營企業法》,這是第一個為跨國企業進入中國市場提供的法律依據。 那一年,英特爾剛推出8088微處理器,更是首次進入《財星》「世界500強」排行榜。
     



    花了幾年時間摸清中國市場,英特爾開始認真投資是1994年,當時英特爾CEO安迪·格魯夫首次到中國參觀,並且在上海成立研發中心。 2007年,英特爾更將中國區劃為全球行銷網路中的獨立區域,給予它在機構、行銷和人事等方面的決策權,同一年英特爾大連廠開始投產。
     



    經歷30年,英特爾與中國的緊密關係,原以為是剪也剪不斷,但隨著中美關係的降溫和科技戰的升溫,2024年可能是個重大分水嶺。
     



    未來,PC和伺服器中不用英特爾、AMD的CPU,那要用哪來的晶片? 改用國產的海光、飛騰、華為、龍芯、兆芯,當中有x86架構、Arm-base,也有自行開發的架構,作業系統是開源碼Linux軟體。此時不講求晶片好用,只要堪用即可。
     



    不用蘋果iPhone手機,替代方案是愛國心第一選擇華為,不然還有OPPO、小米等。換到安卓系統的適應是習慣問題。
     



    中國政府部門減少外商技術的採購行動,並非突然發生。 早在2022年9月,國資委發布79號文《關於開展對標世界一流企業價值創造行動的通知》,部署了國企、央企信創國產化的具體要求和推進時間表,規定國企、央企須在2027年完成信創全替代,替換範圍涵蓋晶片、基礎軟體、作業系統等,涵蓋政府、金融、航空航太、電信、交通、校閱、醫院、石油、電力等領域。
     



    2023年底,中國官方進一步定調科技國產化,針對PC、筆記型電腦和伺服器發布更嚴格政府採購準則,首份「安全且可信」處理器與作業系統的清單,幾乎全是中國企業供應商。也象徵逐漸降低採購英特爾、AMD的CPU晶片和微軟的作業系統,是未來官方軟硬體採購的必然方向。
     



    是的,中國政府和國企等放棄英特爾、AMD等西方國家的晶片,轉為國產替代的期限是:2027年。
     




    美國四大招全面封鎖
     



    美國自從2018年陸續制裁中興、華為以來,演變成對中國全面性的封鎖,當中有三大舉措影響最深遠(由近至遠):
     



    第一,針對中國AI算力封鎖,以防中國擴張AI算力能力應用在國防、軍事系統上。從最早在2022年,第一槍限制Nvidia的高階GPU供應,一直演變到2023年直接針對AI算力晶片的限制,間接阻斷台積電為中國國產GPU晶片代工的這一條路。
     



    第二,美國《晶片法案》規定,獲得美國補助的企業在中國等國家擴展半導體生產和研發將會有嚴格的限制,間接阻斷了英特爾、台積電、三星等在中國製程技術與晶圓廠擴產的進展。
     



    第三,2022年限制美國籍公民從事中國半導體製造相關工作,影響所及涵蓋長江存儲、合肥長鑫、中微半導體等。由於中國科技產業幾乎是海歸派和延攬海外人才所建立而成,此限制直接從人才下手,影響十分鉅大。
     



    第四,對ASML光刻機的限制,從極紫外光EUV擴大到成熟製程使用的DUV系統,也等同直接擴張長臂管轄的範圍。日前更傳出美國要求荷蘭阻止ASML對中國半導體廠進行維修服務。
     



    美國與中國的科技領域全面對抗,發展到英特爾這個層級,算是來到另一個高峰。

    過去我們對科技世界的認知是,CPU為科技產品的核心,無論如何英特爾的地位是很難被替代的。不過,自從生成式AI強勢席捲全球,科技世界運轉的主導者來到Nvidia身上,既然GPU都可以被禁,火燒到CPU身上也不用太大驚小怪。
     



    就台灣產業而言,英特爾、AMD恐被中國排除在外,產業鏈估計影響有限,因為去中化已經行之有年,無論對晶圓代工、IC設計、AI供應鏈等,影響均不大。
     



    對中國而言,看來科技產業真的走到一個系統、兩個世界的分岔路上,未來科技產業系統將分為中國標準和非中標準,無論大家如何爭議中美之間的真假脫鉤,在科技系統上,雙方脫鉤成兩個標準已經是在路上。
  • View More intel Gaudi.JPG
    人工智能和物聯網

    突襲Nvidia! 英特爾推出AI晶片Gaudi 3宣稱“部分性能優於H200”

    英特爾Intel Vision 2024大會於4月8日-9日在美國亞利桑那州鳳凰城登場,會中宣布推出Gaudi 3 AI加速器,由台積電5nm製程代工,挑戰Nvidia在AI領域高市佔率,企業生成式 AI帶來新選擇。
     



    英特爾的Gaudi 3與Nvidia的H100相比,支援AI模型執行推理快了50%,訓練大模型則比H100快了40%。 英特爾更指出,Gaudi 3的表現將與Nvidia的H200比肩,在某些領域的表現甚至會優於H200。
     



    再者,英特爾Gaudi 3在Llama上做測試,可有效地訓練或部署AI大模型,包括文生圖的Stable Diffusion和語音辨識的Whisper等。
     



    英特爾Gaudi 3加速器將於2024年第二季,提供OEM通用基板和開放加速器模型(Open accelerator module, OAM),2024第三季全面上市,包括戴爾科技、慧與科技(HPE)、聯想和美 超微等,都將採用Gaudi 3。


     



    Gaudi 3加速器的主要特點:
     




    AI專用運算引擎:Intel Gaudi 3加速器專為生成式AI運算打造。 每台加速器都有專屬的異質運算引擎,由64個AI自訂和可編程TPC和8個MME組成。 每個Intel Gaudi 3 MME皆能執行64,000個平行運算,運算效率極高,擅於處理複雜的矩陣運算,這也是深度學習演算法的基礎運算。 此獨特的設計大幅提昇平行AI運算的速度和效率,並支援多種資料類型,包括FP8和BF16。

     


    提升內存容量,滿足LLM容量需求:Intel Gaudi 3搭載128 GB的HBMe2內存容量、3.7 TB的內存帶寬和96 MB的on-board靜態隨機存取內存(SRAM),能夠在更少 在的Intel Gaudi 3上,提供處理大型生成式AI資料集所需的足夠內存,且特別適用於大型語言和多模態模型。

     


    為企業提供生成式AI高效系統擴充:每個Intel Gaudi 3加速器皆整合24個200 GB的以太網端口,提供靈活的開放標準網絡,實現高效擴充,以支援大型運算集,並克服 專有網路架構的供應商限制。 Intel Gaudi 3加速器實現單一節點到上千節點的高效擴充,以滿足生成式AI模型的廣泛要求。

     


    開放產業軟件提升開發人員生產力:Intel Gaudi軟件整合PyTorch框架,並提供基於Hugging Face社群的優化模型,是目前生成式AI開發人員最常用的AI框架,讓生成式AI開發人員能夠在高度 在抽象層上進行操作,提升易用性和生產力,並可輕鬆地將模型轉移到不同硬件類型上。

     


    Gaudi 3 PCIe:Gaudi 3高速PCIe附加卡是全新產品,外型規格專為實現高效率並降低功耗設計,適用於微調、推理和檢索增強生成(RAG)等工作,配備功率600瓦的標準 (Full-height )封裝,128GB的記憶體容量,且帶寬達到每秒3.7TB。