TAG :AI

要說AI拯救全世界是一點也不為過！2022年底OpenAI刮起的炫風，到2024年都還是熱騰騰的巨大商機。NAND Flash控制晶片大廠慧榮SMI總經理苟嘉章指出，Nvidia囊括AI領域90%市占，其霸主地位在未來3～5年內都很難被撼動，且未來AI算力從雲端會逐漸下放到邊緣端，對存儲產業而言會是史上難得一見機會！
 



即將登場的COMPUTEX 2024也是宛如全球科技界的AI盛會，不但Nvidia、AMD、英特爾、高通、Arm等科技巨頭齊聚一堂，除了AI帶動伺服器和資料中心繼續火熱，更有AI PC、生成式AI手機題材要開始發酵，AI幾乎拯救了全世界的科技產業！
 



苟嘉章也認為，受惠資料中心對於NAND Flash的需求旺，雖然現貨通路端買氣不佳，但資料中心的需求非常強勁，需要的存儲容量從原本4~8TB增加到32TB，估計NAND價格漲到2024年下半年沒問題，一直到2025年上半年目前都沒看到敗象。
 



從供給端來看，苟嘉章也分析，NAND Flash原廠2024年才剛剛轉虧為盈，開始賺錢而已，恢復正常生產會循序漸進，且不會躁進馬上擴建新晶圓廠，大家有志一同以利潤為優先，先把虧的錢賺回來再說。
 



SK海力士第一季毛利率39%，美光20%，據了解，至少要等這些NAND Flash原廠的毛利率連續數季站穩40%以上，才會考慮增加新產能，至少今年都會是NAND Flash存儲產業的甜蜜年。
 



存儲產業在供給端的另一個觀察是各大廠的軍備競賽都集中在DRAM HBM記憶體。最近才傳出三星的HBM3過熱，沒通過Nvidia測試，三星要取代SK海力士成為HBM龍頭的夢想，只能再等等，日前三星才宣布半導體負責人換帥，就是因為AI進度落後之故。
 



業界透露，其實SK海力士現在的HBM技術團隊，其實當初是從三星過去的，三星現在應該是悔不當初。事實上，三星這幾年在Foundrr和Memory兩大關鍵版圖上都狂掉隊很明顯，這與接班人李在鎔2017年入獄有很大關係。這麼大的財閥企業群龍無首，估計各個事業部的負責人也不敢拍板做大決定，等到2021年李在鎔特赦出來，世界早已經出現翻天覆地的變化，現在三星要奮力追趕，自然需花上更多的功夫。
 



苟嘉章的觀點是，三星在記憶體領域長期奠定很深遠的記憶實力，未來在HBM發展上仍是很有機會，且現在最著急的人應該是Nvidia，因為如果HBM主要供應都掌握在一家手裡，Nvidia的AI產品在產能和價格上會一直無法取得更高主導權，因此Nvidia一定會協助三星HBM技術盡快有突破。
 



另外，他也表示QLC NAND也很適合用在資料中心，慧榮會和NAND Flash大廠、模組廠、服務器廠商一起推動AI發展。另外，生成式AI手機會是一大機，平價手機也需要AI功能，未來各項應用對於存儲需要的容量會呈現爆炸性成長。

相關新聞：

台積電延續兆元市值的秘密，都藏在這一張圖裡

AI PC大戰開打，高通拿下首局勝利

盧超群：DRAM回暖旺到2025年，報價重回疫情前水平

群聯：不跟進中國模組廠低價拋售NAND Flash，下半年AI PC生意樂觀
 

今天台積電技術論壇上，2024年3月升任共同營運長，現任台積電業務開發、海外營運辦公室資深副總暨副共同營運長的張曉強現場金句連發：
 




台積電做系統整合超過20年，領先推出CoWoS技術，我相信在座各位都可以拼出C-o-W-o-S-.......有天我發現連電視台主播都會拼這個詞，你要是沒聽過CoWoS，大概是外星人了！

 


過陣子也不用我和Cliff上台來演講了，create一個AI來講就好！

 


（現場張曉強show出一張PPT標誌著Nvidia近代GPU產品採用台積電製程技術的性能成長曲線直線向上）他說：AI發展快速，Nvidia產品從V100採用N12、A100採用N7、H100採用N4，一直最新一代Blackwell採用N4P製程+CoWoS封裝讓算力成長1000倍，這迅猛的長曲線讓人想到了昨晚的Nvidia股價.......

 


台積電今日技術論壇中，現場含金量最高的一張圖應該是3D Integrated HPC Technology platform for AI。張曉強說這張圖是“Money Sheet”（既然價值連城，就不在此大放送！其實是因為現場是禁止攝影）從現場的圖上看，是一款用于HPC和AI的新封裝平台，並以矽光子來改善互聯。他表示矽光子技術已經量產，只是這是第一次引入HPC中，用在Data Center。

 


如果有人要寫台積電歷史，一定要提到7nm，這是台積電第一次提供全世界最先進的技術，在此之前都是IDM。之後台積電在2020年更領先進入5nm製程，2023年進入3nm製程。
 




以下是今日舉行台灣場的技術論壇幾個重點：
 




AI將掀起第四次工業革命，2030年全世界將有10萬個生成式AI機器人，生成式AI手機出貨量將達2.4億支。

 


為了滿足AI運算需求，3D堆疊、先進封裝技術越來越重要，未來幾年將實現單晶片上整合超過2,000億個電晶體並透過3D封裝達到超過一兆個電晶體。

 


2024年3nm產能比2023年增加三倍，但還是不夠用！！

 


2020~2024年，先進製程產能的年複合成長25%，特殊製程產能的複合成長率10%。車用晶片出貨複合成長率約50%。

 


SOIC在2022～2026年的產能複合成長100%，CoWoS在2022～2026年的產能複合成長超過60%

 


台積電從2019年正式使用EUV設備，目前全球56%的EUV機台都在台積電。

 


N3E已依計畫在2023年第四季進入量產，客戶的產品良率相當好。台積電也開發出N3P技術，已通過驗證，目前良率表現接近於N3E。N3P已經收到了客戶產品設計定案tape-outs,將於 2024 年下半年開始量產。

 


2nm是台積電第一次使用奈米片Nano-Sheet電晶體架構，目前進展非常順利，NanoSheet奈米片的轉換目標達90%，換成良率也超過80%，根據計畫2nm是2025年下半年量產。

 


針對製程後段，會導入新製程與材料，將電阻/電容延遲(RC delay)降低高達10%。此外，為了強化功率傳輸，台積電也提供了超高性能金屬/絕緣體/金屬電容(SHPMIM)，其容量密度是上一代技術的兩倍之多。

 


台積電進入埃米（angstrom）時代的A16，結合2nm製程+超級電軌(Super Power Rail)架構設計。




 






A16 技術的超級電軌(Super Power Rail)架構是一種創新的最佳晶圓背面供電網路解決方案。A16 將供電網路移到晶圓背面而在晶圓正面釋出更多訊號網路的佈局空間，藉以提升邏輯密度和效能。此外，它還可以改善功率傳輸,並大幅減少IR 壓降。

 


再者，台積電的創新晶圓背面傳輸方案也是業界首創，保留了柵極密度與元件寬度的彈性，是具有複雜訊號佈線及密集供電網路的HPC產品的最佳解決方案。相較於台積公司的 N2P 製程，A16 在相同 Vdd (工作電壓)下，速度增快8～10%; 在相同速度下，功耗降低15~20%，晶片密度提升高達 1.10X。台積電計畫在 2026 年下半年量產。

 


NanoSheet奈米片電晶體的下一代會是互補式場效電晶體CFET架構，藉由不同材料的上下堆疊，讓垂直堆疊的不同場效電晶體更靠近，改善電流且密度增加1.5~2倍。台積電強調CFET不是紙上談兵，研發已經成功驗證在wafer siliocon上。





台積電指出，當電晶體架構從平面式(planer)發展到 FinFET，並即將轉變至奈米片(nanosheet)架構之後，公司認為垂直堆疊的 nFET 和 pFET (即互補式場效電晶體CFET)是未來製程架構選項之一。

 


台積電進一步指出，內部一直在積極研究將 CFET 用於未來製程架構的可能性。在考量佈線和製程複雜性後，CFET 密度將可提升 1.5 至 2X，除了 CFET，在低維材料方面取得了突破，也可實現進一步的尺寸和能源微縮。再者，台積電也計畫導入新的互連技術，以提升互連效能。首先，對於銅互連技術，計畫導入一個全新的通路結構(via scheme)，進而將業界領先的通路電阻(via resistance)再降低 25%。再者，計畫採用一種全新的通路蝕刻停止層(via etch-stop-layer)，可降低約6%的耦合電容。還有，正在研發一種新的銅阻障方案(Cu barrier)，可降低約 15%的銅線電阻。除銅互連外，台積電也在研發一種含有氣隙的新型金屬材料,可降低約 25%的耦合電容。另外，嵌入石墨烯(Intercalated graphene)也是一種極具前景的新材料,可大幅縮短互連延遲。
 




TSMC 3DFabricTM技術方面，包含三大平台:TSMC-SoIC、CoWoS和InFO。
 


SoIC 平台：用於 3D 矽晶片堆疊，並提供 SoIC-P 和 SoIC-X 兩種堆疊方案。SoIC-P是一種微凸塊堆疊解決方案，適用於講求成本效益的應用如行動裝置。CoWoS 平台包括成熟度最高、採用矽中介層的 CoWoS-S，以及採用有機中介層的CoWoS-L 和 CoWoS-R。InFO PoP 和 InFO-3D 適用於高階行動式應用,InFO 2.5D 則適用於高效能運算的小晶片整合。另外，根據產品需求，SoIC 晶片可與 CoWoS 或 InFO 整合。
 





適用於 3D 小晶片堆疊技術的 SoIC：SoIC-X 無凸塊堆疊解決方案,無論是現有的 9 微米鍵合間距前到後堆疊方案(front-to-back scheme)，還是將於2027 年上市的 3 微米鍵合間距前到前堆疊方案(front-to-front scheme)，裸晶到裸晶(die-to-die)互連密度均比 40 微米到 18 微米間距的微凸塊前到前堆疊方案高出 10X 以上。台積電的SoIC-X 技術非常適用於對效能要求極高的各類HPC應用。
 





台積電更指出，看到客戶對於 SoIC-X 技術的需求逐漸增加，預計到 2026 年底將會有 30 個客戶設計定案tape-outs。

 


CoWoS 技術：可將先進的 SoC 或 SoIC 晶片與先進的高頻寬記憶體HBM進行整合，滿足AI 晶片的嚴苛要求。台積電的SoIC 已透過 CoWoS-S 量產出貨，並計畫開發一種 8 倍光罩尺寸且具備採用A16 製程技術的 SoIC 晶片和 12 個HBM堆疊的 CoWoS 解決方案，計將在 2027 年開始量產。直至今年年底,台積公司將為超過 25 個客戶啟動超過 150 個 CoWoS 客戶產品設計定案tape-outs。

 


台積電與Nvidia合作推出Blackwell AI 加速器，是全球首款量產並將 2 個採用 5 奈米製程技術的 SoC 和 8 個HBM堆疊整合在一個模組中的 CoWoS-L 產品。




 






矽光子：台積電表示矽光子是共同封裝光學元件CPO的最佳選擇，因為其與半導體相容，且可與 EIC/PIC/交換器在封裝層高度整合。台積電創新的緊湊型通用光子引擎(COUPETM)技術透過最短路徑的同質銅-銅介面整合電子積體電路(PIC)和光子積體電路(EIC),進而實現超高速射頻(RF)訊號(200G/λ)。

 


COUPE 解決方案可最小化使用面積,且具備光柵耦合器(GC)和邊際耦合器(EC)，可滿足客戶的各式需求。台積電計畫在 2025 年完成小型插拔式連接器的 COUPE 驗證，2026 年將其整合於共同封裝光學元件的 CoWoS 封裝基板，藉此可降低 2X 功耗、將延遲降低10X。同時，台積電也探索一種更先進的共同封裝光學元件方案，將 COUPE 整合於 CoWoS中介層，進而將功耗再降低 5X、將延遲再降低 2X。


相關新聞：

50%關稅加上去，恐讓中國成熟製程產能過剩更嚴重，「國產化」速度勢必提前

AI PC大戰開打，高通拿下首局勝利

隨著Copilot+首次登場，AI PC大戰宣布開打！微軟宣布推出搭載高通Snapdragon X Elite和Snapdragon X Plus的 PC，徹底改變 PC的使用體驗。除了微軟自家Surface PC之外，更宣布宏碁、華碩、Dell、HP、聯想、三星等所有AI PC全都用高通的解決方案！
 



微軟將「Copilot+ PC」定義為帶有NPU的Windows PC，除了有CPU、GPU外，還要結合強大性能NPU，建構出全新AI系統的架構，且電池續航力更強，單次充電可支援長達22小時影片播放。微軟表示「Copilot+ PC」效能比蘋果搭載M3晶片的15吋MacBook Air，還要高出58%。
 



值得注意的是，微軟首批「Copilot+ PC」全都是搭載高通Snapdragon X Elite和X Plus處理器，包括微軟自家Surface PC，還有宏碁、華碩、Dell、HP、聯想、三星等合作推出AI PC。除了高通的解決方案，之後也會有搭載英特爾和超微處理器的機型問世。
 



在這波PC熱潮中，高通找到著力點，正在重塑Windows PC生態系的效能領先地位，搭載於Snapdragon X Elite的領先NPU能為筆記型電腦提供最高的每瓦NPU效能，比M3高出2.6倍，比Core Ultra 7高出5.4倍。
 



此款NPU整合高通Hexagon NPU架構，可以在超解析度（Super Resolution）等使用案例中提供高達每瓦24 TOPS的峰值效能。藉由高通Oryon CPU，Snapdragon X Elite在每瓦效能取得領先，PC CPU達到相同峰值效能時功耗較競品低60%。







高通也宣布全球OEM合作夥伴推出了首批獨家搭載今日發表的搭載Snapdragon X Elite和X Plus的Copilot+ PC包括：
 



宏碁：推出Swift 14 AI。Swift 14 AI 結合強大的Snapdragon X系列平台、Windows 11中的Copilot+功能以及Acer  PurifiedView 2.0 和Acer PurifiedVoice 2.0等解決方案，運用AI功能無縫提升生產力和創造力。此款產品提供配備2.5K觸控螢幕顯示器的選項，可實現沉浸式視覺效果，以獨家的Copilot+ PC設計脫穎而出，在正面配置獨特AI商標以及在觸控板上採用活動指示器（Activity Indicator）。
 



華碩：將Snapdragon X Elite和X Plus整合到ASUS Vivobook S 15中，象徵個人運算的典範轉移。透過整合45 NPU TOPS和無可比擬的45W TDP，支援ASUS IceCool散熱技術，使用者將享受迅速的裝置上AI處理能力。ASUS Vivobook S 15配備15.6吋3K 120 Hz OLED顯示器。以上功能皆整合至輕薄的外形中，並提供整套的I／O埠，是多功能的隨身夥伴。
 



戴爾：推出五款搭載Snapdragon X Elite和Snapdragon X Plus的全新筆記型電腦，為消費者和商用提供全面的產品組合，包括XPS 13、Inspiron 14 Plus、Inspiron 14、Latitude 7455和Latitude 5455，均具備卓越的速度和AI效能，以及突破性的電池續航力，提升運算能力並簡化任務。新裝置也採用NGAI，實現變革的AI PC體驗。
 



惠普：新一代AI PC是專為Snapdragon X Elite平台，以及其專用的神經處理單元（NPU）而設計，每秒能夠執行45兆次運作（TOPS），可在裝置上運行語言模型和生成式AI。HP OmniBook X AI PC和HP EliteBook Ultra AI PC採用最強大的AI PC技術，電池續航力長達26小時，可在裝置上快速充電和進行AI功能最佳化，提高生產力。HP EliteBook Ultra也為商用消費者提供附加功能，包括Wolf Pro Security的 新一代防毒軟體（NGAV），透過硬體安全功能保護PC直達韌體等級，全面防護使用者憑證和其他關鍵資訊，獲得微軟安全核心PC指定（一種晶片到雲端的安全技術，提供安全身份、安全驗證和加密服務）和三年保固。
 



聯想：推出聯想Yoga Slim 7x與聯想ThinkPad T14s Gen 6，為首款搭載Snapdragon X Elite的AI PC。這些筆記型電腦提供頂級每瓦PC效能和基於NPU的快速 AI 處理能力，每秒最高達45 兆次運作（TOPS）。Windows 11和Copilot+的強化功能支援離線存取LLM功能，提升創造力、生產力和安全性。
 



微軟Surface：全新Surface筆記型電腦是迄今為止最快且最智慧的Surface筆記型電腦，現在採用超長的電池續航力和由Snapdragon X Elite和Snapdragon X Plus平台支援的全新AI體驗，尺寸包括13.8吋和15吋顯示器尺寸。
 



三星：三星 Galaxy Book4 Edge配備頂尖的混合式AI整合功能，並搭載最快速且最強大的Snapdragon X Elite，使筆記型電腦實現45 TOPS NPU的運算能力。此裝置以納入連結最為緊密的Galaxy AI生態系。透過提供14吋和 16吋的Dynamic AMOLED 2X顯示器的選項，Galaxy Book4 Edge釋放全新等級的創造力和生產力，同時以直觀的功能和簡單的語言提示打破溝通障礙。這款裝置也將深受喜愛的Galaxy AI功能，像是Google的搜尋圈、即時翻譯和聊天助理導入更大尺寸的PC顯示器上。

相關新聞：

生成式AI的時代弄潮兒，高通如何成為接棒者？

台積電：除了AI，沒一個能打的！！

台積電揭示2nm以下最新A16製程，結合超級電軌與奈米片電晶體架構

歡迎轉載文章，請註明出處：SEMICONVoice  

鈺創董事長盧超群出席力積電銅鑼12吋廠啟用儀式時對《SEMICONVoice》表示，AI廣泛使用的高頻寬記憶體HBM要堆疊8層、16層，售價高達300美元～600美元，這在半導體產業根本是天價，而且還一堆客戶都搶著要買。
 



盧超群進一步分析，現在HBM記憶體還在技術與良率的摸索期，良率瓶頸要完全打開至少要花上2～3年時間，因此HBM對傳統DRAM產能的排擠才剛開始而已。
 



重點是，現在三大DRAM廠都在搶著爭奪HBM巨大商機，每一家記憶體廠都想當HBM老大，根本沒有力氣去對付傳統DRAM，更是傾公司所有資源和最優秀的工程師都去做HBM，預期下半年利基型DRAM產業會供給量不足，價格一定會水漲船高。
 



DRAM業界人士更對《SEMICONVoice》透露，投產HBM記憶體不單有耗損wafer面積的問題，且HBM投產製程周期是DDR5的三倍之多，良率又還沒拉上來，現在HBM商機大爆發，但DRAM廠的生產和產能準備沒跟上腳步。
 



尤其，過去兩年記憶體廠財報出現鉅額虧損，因此都沒有積極擴增新產能，只是把原本減產的部分逐漸恢復正常生產，但這對於未來AI時代所需要用到的DRAM和NAND Flash產能根本不夠，現在又有HBM技術瓶頸，未來DRAM產能會十分緊俏。
 



或許你覺得現在終端需求還不好，但半導體產業鏈已經渡過漫長的庫存消化，等到PC、手機、伺服器的需求都恢復正常後，客戶和通路商開始會回補庫存，DRAM吃緊的問題會更加嚴重。
 



市調機構TrendForce也發布報告指出，在403地震前，原先預估第二季DRAM合約價會上漲約3～8%，而最新統計出來的數據是上修漲幅大漲至13～18%。
 



針對HBM排擠DRAM產能的程度，三星的HBM3e產品是採用1alpha製程節點，預計到2024年底將占用1alpha製程產能約60%，會排擠到DDR5供給量。尤其，第三季HBM3e進入生產放量的時間點，買方已經同意提前到第二季備貨，以防第三季HBM供應會出現短缺。
 



TrendForce也統計，HBM位元需求可望高度成長，2024年將成長近200%，2025年再進一步倍增。2024年HBM產值占DRAM比重將超過20%，2025年將有機會突破30%。
 



身為HBM龍頭的SK海力士也指出，DRAM產業需求確實之前較為疲弱，但下半年需求逐漸復甦，加上HBM會吃掉更多的產能，隨著越來越多DRAM產能挪移去生產HBM，傳統DRAM供應量勢必會減少，且慢慢地，供應鏈現有的庫存都會消化殆盡，看好DRAM後勢價格走勢。
 



SK海力士也宣布，2024年HBM產能全部售罄，2025年產能基本上也賣完，為了鞏固SK海力士在HBM領域的領先地位，計畫5月會推出12層堆疊的HBM3E樣品，規劃第三季進入量產。
 



更早前，美光也宣布2024年HBM產能全部售罄，2025年產能多數產能也都被預訂。HBM全球狂熱的程度，算是記憶體史上罕見！
 



SK海力士為了鞏固HBM技術的領先地位，也宣布最新世代堆疊16層的HBM3E技術研發進度，目標是2026年進入量產。據了解，相較12層的HBM，SK海力士的16層HBM以相同的高度堆疊更多DRAM晶粒（die），更關鍵的是能同步減少DRAM厚度，並防止出現晶圓翹曲（warpage），SK海力士為克服這些技術難題，從HBM2E開始就採用領先的MR-MUF（Mass Reflow Molded Underfill）技術，並且不斷進行改良。
 



在HBM大戰中，長年龍頭的三星居然成為SK海力士的手下敗將，日前傳出不服輸的三星，精挑細選集結了100名頂尖的工程師，組成一支HBM團隊，目的就是爭取Nvidia的HBM訂單，讓良率和品質能通過Nvidia的標準，進而一步步蠶食鯨吞SK海力士手上的訂單。
 



三星目前的重心是在全球首款36GB 12層堆疊HBM3E，相較堆疊8層的HBM產品，堆疊12層的HBM3E可讓AI學習速度提升34%。三星總裁兼執行長慶桂顯Kye Hyun Kyung指出：“第一回合輸了，但第二回合是非贏不可。”

相關新聞：

三星DDR3將提前退役，HBM耗損Wafer面積是DDR5三倍，DRAM產業正處關鍵轉折點

力積電銅鑼12吋廠啟用典禮，宣布切入CoWoS 先進封裝

台積電揭示2nm以下最新A16製程，結合超級電軌與奈米片電晶體架構

群聯：不跟進中國模組廠低價拋售NAND Flash，下半年AI PC生意樂觀