TAG :HBM

  • View More 張曉強.JPEG
    半導體

    台積電延續兆元市值的秘密,都藏在這一張圖裡

    今天台積電技術論壇上,2024年3月升任共同營運長,現任台積電業務開發、海外營運辦公室資深副總暨副共同營運長的張曉強現場金句連發:
     




    台積電做系統整合超過20年,領先推出CoWoS技術,我相信在座各位都可以拼出C-o-W-o-S-.......有天我發現連電視台主播都會拼這個詞,你要是沒聽過CoWoS,大概是外星人了!

     


    過陣子也不用我和Cliff上台來演講了,create一個AI來講就好!

     


    (現場張曉強show出一張PPT標誌著Nvidia近代GPU產品採用台積電製程技術的性能成長曲線直線向上)他說:AI發展快速,Nvidia產品從V100採用N12、A100採用N7、H100採用N4,一直最新一代Blackwell採用N4P製程+CoWoS封裝讓算力成長1000倍,這迅猛的長曲線讓人想到了昨晚的Nvidia股價.......

     


    台積電今日技術論壇中,現場含金量最高的一張圖應該是3D Integrated HPC Technology platform for AI。張曉強說這張圖是“Money Sheet”(既然價值連城,就不在此大放送!其實是因為現場是禁止攝影)從現場的圖上看,是一款用于HPC和AI的新封裝平台,並以矽光子來改善互聯。他表示矽光子技術已經量產,只是這是第一次引入HPC中,用在Data Center。

     


    如果有人要寫台積電歷史,一定要提到7nm,這是台積電第一次提供全世界最先進的技術,在此之前都是IDM。之後台積電在2020年更領先進入5nm製程,2023年進入3nm製程。
     




    以下是今日舉行台灣場的技術論壇幾個重點:
     




    AI將掀起第四次工業革命,2030年全世界將有10萬個生成式AI機器人,生成式AI手機出貨量將達2.4億支。

     


    為了滿足AI運算需求,3D堆疊、先進封裝技術越來越重要,未來幾年將實現單晶片上整合超過2,000億個電晶體並透過3D封裝達到超過一兆個電晶體。

     


    2024年3nm產能比2023年增加三倍,但還是不夠用!!

     


    2020~2024年,先進製程產能的年複合成長25%,特殊製程產能的複合成長率10%。車用晶片出貨複合成長率約50%。

     


    SOIC在2022~2026年的產能複合成長100%,CoWoS在2022~2026年的產能複合成長超過60%

     


    台積電從2019年正式使用EUV設備,目前全球56%的EUV機台都在台積電。

     


    N3E已依計畫在2023年第四季進入量產,客戶的產品良率相當好。台積電也開發出N3P技術,已通過驗證,目前良率表現接近於N3E。N3P已經收到了客戶產品設計定案tape-outs,將於 2024 年下半年開始量產。

     


    2nm是台積電第一次使用奈米片Nano-Sheet電晶體架構,目前進展非常順利,NanoSheet奈米片的轉換目標達90%,換成良率也超過80%,根據計畫2nm是2025年下半年量產。

     


    針對製程後段,會導入新製程與材料,將電阻/電容延遲(RC delay)降低高達10%。此外,為了強化功率傳輸,台積電也提供了超高性能金屬/絕緣體/金屬電容(SHPMIM),其容量密度是上一代技術的兩倍之多。

     


    台積電進入埃米(angstrom)時代的A16,結合2nm製程+超級電軌(Super Power Rail)架構設計。




     






    A16 技術的超級電軌(Super Power Rail)架構是一種創新的最佳晶圓背面供電網路解決方案。A16 將供電網路移到晶圓背面而在晶圓正面釋出更多訊號網路的佈局空間,藉以提升邏輯密度和效能。此外,它還可以改善功率傳輸,並大幅減少IR 壓降。

     


    再者,台積電的創新晶圓背面傳輸方案也是業界首創,保留了柵極密度與元件寬度的彈性,是具有複雜訊號佈線及密集供電網路的HPC產品的最佳解決方案。相較於台積公司的 N2P 製程,A16 在相同 Vdd (工作電壓)下,速度增快8~10%; 在相同速度下,功耗降低15~20%,晶片密度提升高達 1.10X。台積電計畫在 2026 年下半年量產。

     


    NanoSheet奈米片電晶體的下一代會是互補式場效電晶體CFET架構,藉由不同材料的上下堆疊,讓垂直堆疊的不同場效電晶體更靠近,改善電流且密度增加1.5~2倍。台積電強調CFET不是紙上談兵,研發已經成功驗證在wafer siliocon上。





    台積電指出,當電晶體架構從平面式(planer)發展到 FinFET,並即將轉變至奈米片(nanosheet)架構之後,公司認為垂直堆疊的 nFET 和 pFET (即互補式場效電晶體CFET)是未來製程架構選項之一。

     


    台積電進一步指出,內部一直在積極研究將 CFET 用於未來製程架構的可能性。在考量佈線和製程複雜性後,CFET 密度將可提升 1.5 至 2X,除了 CFET,在低維材料方面取得了突破,也可實現進一步的尺寸和能源微縮。再者,台積電也計畫導入新的互連技術,以提升互連效能。首先,對於銅互連技術,計畫導入一個全新的通路結構(via scheme),進而將業界領先的通路電阻(via resistance)再降低 25%。再者,計畫採用一種全新的通路蝕刻停止層(via etch-stop-layer),可降低約6%的耦合電容。還有,正在研發一種新的銅阻障方案(Cu barrier),可降低約 15%的銅線電阻。除銅互連外,台積電也在研發一種含有氣隙的新型金屬材料,可降低約 25%的耦合電容。另外,嵌入石墨烯(Intercalated graphene)也是一種極具前景的新材料,可大幅縮短互連延遲。
     




    TSMC 3DFabricTM技術方面,包含三大平台:TSMC-SoIC、CoWoS和InFO。
     


    SoIC 平台:用於 3D 矽晶片堆疊,並提供 SoIC-P 和 SoIC-X 兩種堆疊方案。SoIC-P是一種微凸塊堆疊解決方案,適用於講求成本效益的應用如行動裝置。CoWoS 平台包括成熟度最高、採用矽中介層的 CoWoS-S,以及採用有機中介層的CoWoS-L 和 CoWoS-R。InFO PoP 和 InFO-3D 適用於高階行動式應用,InFO 2.5D 則適用於高效能運算的小晶片整合。另外,根據產品需求,SoIC 晶片可與 CoWoS 或 InFO 整合。
     





    適用於 3D 小晶片堆疊技術的 SoIC:SoIC-X 無凸塊堆疊解決方案,無論是現有的 9 微米鍵合間距前到後堆疊方案(front-to-back scheme),還是將於2027 年上市的 3 微米鍵合間距前到前堆疊方案(front-to-front scheme),裸晶到裸晶(die-to-die)互連密度均比 40 微米到 18 微米間距的微凸塊前到前堆疊方案高出 10X 以上。台積電的SoIC-X 技術非常適用於對效能要求極高的各類HPC應用。
     





    台積電更指出,看到客戶對於 SoIC-X 技術的需求逐漸增加,預計到 2026 年底將會有 30 個客戶設計定案tape-outs。

     


    CoWoS 技術:可將先進的 SoC 或 SoIC 晶片與先進的高頻寬記憶體HBM進行整合,滿足AI 晶片的嚴苛要求。台積電的SoIC 已透過 CoWoS-S 量產出貨,並計畫開發一種 8 倍光罩尺寸且具備採用A16 製程技術的 SoIC 晶片和 12 個HBM堆疊的 CoWoS 解決方案,計將在 2027 年開始量產。直至今年年底,台積公司將為超過 25 個客戶啟動超過 150 個 CoWoS 客戶產品設計定案tape-outs。

     


    台積電與Nvidia合作推出Blackwell AI 加速器,是全球首款量產並將 2 個採用 5 奈米製程技術的 SoC 和 8 個HBM堆疊整合在一個模組中的 CoWoS-L 產品。




     






    矽光子:台積電表示矽光子是共同封裝光學元件CPO的最佳選擇,因為其與半導體相容,且可與 EIC/PIC/交換器在封裝層高度整合。台積電創新的緊湊型通用光子引擎(COUPETM)技術透過最短路徑的同質銅-銅介面整合電子積體電路(PIC)和光子積體電路(EIC),進而實現超高速射頻(RF)訊號(200G/λ)。

     


    COUPE 解決方案可最小化使用面積,且具備光柵耦合器(GC)和邊際耦合器(EC),可滿足客戶的各式需求。台積電計畫在 2025 年完成小型插拔式連接器的 COUPE 驗證,2026 年將其整合於共同封裝光學元件的 CoWoS 封裝基板,藉此可降低 2X 功耗、將延遲降低10X。同時,台積電也探索一種更先進的共同封裝光學元件方案,將 COUPE 整合於 CoWoS中介層,進而將功耗再降低 5X、將延遲再降低 2X。


    相關新聞:

    50%關稅加上去,恐讓中國成熟製程產能過剩更嚴重,「國產化」速度勢必提前

    AI PC大戰開打,高通拿下首局勝利
  • View More 盧超群.JPG
    半導體

    盧超群:DRAM回暖旺到2025年,報價重回疫情前水平

    鈺創董事長盧超群指出,自家利基型記憶體DRAM陸續導入WiFi 7、機器人、汽車、智慧家庭等新應用領域,整體來看2024年下半年景氣會優於上半年,2025年會延續這股景氣回升力道,DRAM價格可望重回疫情前水平。
     



    全球記憶體產業谷底翻身的軌跡,也是拜OpenAI帶動生成式AI狂潮之賜,新式HBM記憶體成為AI伺服器必備,吃掉越來越多DDR5的產能。再者,DDR5是PC主流規格,下半年起又有AI PC題材發酵,使得國際DRAM大廠需要不斷加大HBM、DDR5投片,陸續棄守DDR3、DDR4市場。利基型記憶體市場在此背景下,開始邁向供需平衡,待庫存消化後,產業會越來越健康。
     



    盧超群表示,鈺創耕耘的不少新產品領域逐漸發酵,尤其網通相關的利基型記憶體產品一直是鈺創的重點佈局,占營收比重超過30%,鈺創提供完整的DRAM、SPI NAND Flash解決方案,滿足客戶從WiFi 5、WiFi 6/WiFi 6E、WiFi 7需要的規格與容量。
     



    他進一步指出,鈺創的利基型記憶體產品線已經獲得WiFI主晶片供應商包括高通、博通、聯發科和瑞昱列入合格供應商清單 (Approved Vendor List,AVL)。並且,已經看到8Gb/4Gb的DDR4、4Gb DDR3導入印太和歐洲客戶的Wi-Fi 6E產品並進入量產,且在WiFi 7方面,8Gb/4Gb DDR4也獲得Wi-Fi 7晶片組供應商的清單認可,陸續向終端客戶提供樣品。
     



    不單是網通,公司也指出,在汽車、智慧家電等業務上,日前都有回升跡象,像是汽車領域,鈺創的產品導入車子車載市場包括顯示器、娛樂系統、硬碟、數位音訊、行車記錄器等、環景系統、ADAS等。
     



    智慧家電方面,鈺創的KGD和Discrete方案也導入像是智慧門鎖、全景相機、藍光DVD播放器、智慧音箱、掃地機器人等,未來期待更多邊緣AI商機落地。
     



    展望未來,盧超群指出,2030 年全球由 AI 主導的經濟產值高達 80 兆美元,其中硬體僅佔40分之1,大概 2 兆美元,而半導體約0.5兆美元。台灣建立了半導體加異質整合的應用堡壘,一定會卡位到創新技術,就如同台灣過往在 PC、手機等,都抓到應用爆發的關鍵。
     



    他也訂下目標,鈺創要在半導體0.5兆美元佔有一席之地,尤其懂邏輯的業者不一定懂記憶體,懂記憶體的不一定懂異質整合,鈺創因為掌握了邏輯IC和DRAM兩大技術,位居獨特地位,要利用異質整合技術的優勢,贏得AI時代的巨大商機。
     



    再者,鈺創看好許許多利基型DRAM客戶在拿到產品後,需要額外找尋封裝和Controller IP服務,導致效能犧牲和成本墊高。因此,鈺創提出一站式開發服務「MemorAiLink」,提供多樣化的記憶體選擇,並提供完整的IP服務,實現高度複雜晶片設計並縮短產品上市時間。
     



    盧超群解釋,要發揮鈺創在邏輯IC和記憶體兩邊的強項,MemorAiLink平台可讓記憶體與不同元件封裝整合,實現高度複雜的晶片設計及縮短產品上市時間,MemorAiLink平台率先推出異質整合晶片產品,切入影音擷取IC次系統市場,且現在客戶已經進入量產,可讓客戶產品多重訊號切換或融合,讓影音串流應用或商業模式提供更多可能性。

    相關新聞:

    盧超群:HBM良率轉順至少還要2~3年,對DRAM排擠效應剛開始而已

    三星DDR3將提前退役,HBM耗損Wafer面積是DDR5三倍,DRAM產業正處關鍵轉折點

    力積電銅鑼12吋廠啟用典禮,宣布切入CoWoS 先進封裝

    群聯:不跟進中國模組廠低價拋售NAND Flash,下半年AI PC生意樂觀


    力積電銅鑼12吋廠啟用典禮,宣布切入CoWoS 先進封裝

    歡迎轉載文章,請註明出處:SEMICONVoice  
  • View More HBM1.PNG
    半導體

    盧超群:HBM良率轉順至少還要2~3年,對DRAM排擠效應剛開始而已

    鈺創董事長盧超群出席力積電銅鑼12吋廠啟用儀式時對《SEMICONVoice》表示,AI廣泛使用的高頻寬記憶體HBM要堆疊8層、16層,售價高達300美元~600美元,這在半導體產業根本是天價,而且還一堆客戶都搶著要買。
     



    盧超群進一步分析,現在HBM記憶體還在技術與良率的摸索期,良率瓶頸要完全打開至少要花上2~3年時間,因此HBM對傳統DRAM產能的排擠才剛開始而已。
     



    重點是,現在三大DRAM廠都在搶著爭奪HBM巨大商機,每一家記憶體廠都想當HBM老大,根本沒有力氣去對付傳統DRAM,更是傾公司所有資源和最優秀的工程師都去做HBM,預期下半年利基型DRAM產業會供給量不足,價格一定會水漲船高。
     



    DRAM業界人士更對《SEMICONVoice》透露,投產HBM記憶體不單有耗損wafer面積的問題,且HBM投產製程周期是DDR5的三倍之多,良率又還沒拉上來,現在HBM商機大爆發,但DRAM廠的生產和產能準備沒跟上腳步。
     



    尤其,過去兩年記憶體廠財報出現鉅額虧損,因此都沒有積極擴增新產能,只是把原本減產的部分逐漸恢復正常生產,但這對於未來AI時代所需要用到的DRAM和NAND Flash產能根本不夠,現在又有HBM技術瓶頸,未來DRAM產能會十分緊俏。
     



    或許你覺得現在終端需求還不好,但半導體產業鏈已經渡過漫長的庫存消化,等到PC、手機、伺服器的需求都恢復正常後,客戶和通路商開始會回補庫存,DRAM吃緊的問題會更加嚴重。
     



    市調機構TrendForce也發布報告指出,在403地震前,原先預估第二季DRAM合約價會上漲約3~8%,而最新統計出來的數據是上修漲幅大漲至13~18%。
     



    針對HBM排擠DRAM產能的程度,三星的HBM3e產品是採用1alpha製程節點,預計到2024年底將占用1alpha製程產能約60%,會排擠到DDR5供給量。尤其,第三季HBM3e進入生產放量的時間點,買方已經同意提前到第二季備貨,以防第三季HBM供應會出現短缺。
     



    TrendForce也統計,HBM位元需求可望高度成長,2024年將成長近200%,2025年再進一步倍增。2024年HBM產值占DRAM比重將超過20%,2025年將有機會突破30%。
     



    身為HBM龍頭的SK海力士也指出,DRAM產業需求確實之前較為疲弱,但下半年需求逐漸復甦,加上HBM會吃掉更多的產能,隨著越來越多DRAM產能挪移去生產HBM,傳統DRAM供應量勢必會減少,且慢慢地,供應鏈現有的庫存都會消化殆盡,看好DRAM後勢價格走勢。
     



    SK海力士也宣布,2024年HBM產能全部售罄,2025年產能基本上也賣完,為了鞏固SK海力士在HBM領域的領先地位,計畫5月會推出12層堆疊的HBM3E樣品,規劃第三季進入量產。
     



    更早前,美光也宣布2024年HBM產能全部售罄,2025年產能多數產能也都被預訂。HBM全球狂熱的程度,算是記憶體史上罕見!
     



    SK海力士為了鞏固HBM技術的領先地位,也宣布最新世代堆疊16層的HBM3E技術研發進度,目標是2026年進入量產。據了解,相較12層的HBM,SK海力士的16層HBM以相同的高度堆疊更多DRAM晶粒(die),更關鍵的是能同步減少DRAM厚度,並防止出現晶圓翹曲(warpage),SK海力士為克服這些技術難題,從HBM2E開始就採用領先的MR-MUF(Mass Reflow Molded Underfill)技術,並且不斷進行改良。
     



    在HBM大戰中,長年龍頭的三星居然成為SK海力士的手下敗將,日前傳出不服輸的三星,精挑細選集結了100名頂尖的工程師,組成一支HBM團隊,目的就是爭取Nvidia的HBM訂單,讓良率和品質能通過Nvidia的標準,進而一步步蠶食鯨吞SK海力士手上的訂單。
     



    三星目前的重心是在全球首款36GB 12層堆疊HBM3E,相較堆疊8層的HBM產品,堆疊12層的HBM3E可讓AI學習速度提升34%。三星總裁兼執行長慶桂顯Kye Hyun Kyung指出:“第一回合輸了,但第二回合是非贏不可。”

    相關新聞:

    三星DDR3將提前退役,HBM耗損Wafer面積是DDR5三倍,DRAM產業正處關鍵轉折點

    力積電銅鑼12吋廠啟用典禮,宣布切入CoWoS 先進封裝

    台積電揭示2nm以下最新A16製程,結合超級電軌與奈米片電晶體架構

    群聯:不跟進中國模組廠低價拋售NAND Flash,下半年AI PC生意樂觀
     
  • View More Hynix.PNG
    半導體

    三星DDR3將提前退役,HBM耗損Wafer面積是DDR5三倍,DRAM產業正處關鍵轉折點

    三星從2年前就規劃逐步要退出DDR3供應,市場傳出,原本計畫2024年底要針對DDR3做EOL(end-of-life)現在提前至2024年中停止生產DDR3,而SK海力士在DDR3晶片上的供應原本就不多,預計未來會更淡出DDR3供應之列。業界預期,DDR3提前退役,可望加速DDR3庫存消化,準備啟動另一番漲勢。
     



    記憶體今年市況不錯,主要是2023年上游原廠虧損嚴重,開始從源頭控盤拉抬價格,這招式是千年不變,萬年受用!NAND Flash和DRAM產業也在這一輪的景氣循環中,正大光明地走出谷底,等待終端需求大力添加柴火。
     



    這一波DRAM產業有兩個題材,一是AI需要的高頻寬記憶體HBM對於DDR5的排擠效應,且HBM真的吃掉很多記憶體的Wafer產能; 第二是韓系國際記憶體大廠年底前要陸續退出DDR3的生產之列。
     



    兩大韓廠三星、SK海力士要退出DDR3生產已經規劃許久,日前傳出最大供應商三星原本是計劃年底前停止生產,基於產能配置,提前到2024年中停止生產DDR3,SK海力士原本的DDR3供應數量就很少,逐步淡出符合預期規劃,這對於台灣DRAM相關廠商是好消息。
     



    HBM在AI時代成為要角,記憶體產業主軸是“排擠”。

    首先,HBM是SK海力士的翻身之作,未來在技術、產能、資源分配上,無論是SK海力士、三星或美光,絕對是全力搶占HBM市佔率,AI才是未來主角。因此,這些大廠不可能會有太多產能給傳統的DRAM,HBM對DDR5產能的排擠,恐怕剛開始而已。除非,你覺得AI是泡沫,是曇花一現,你覺得ChatGPT很快會消失。
     



    業界分析,HBM生產週期包含TSV封裝,比DDR5的生產週期至少多出1.5個月,HBM3E的Wafer面積更是DDR5的三倍大。假如投片16Gb DDR5顆粒,每片Wafer的Gross die是1800顆,同樣的Wafer拿去生產HBM3E,搞不好只剩下600顆。
     



    DRAM廠為了解決HBM瓶頸且拉升良率,只會有越來越多的DRAM產能轉移到HBM身上。有消息指出,HBM平均良率約在65%左右,但業界認為實際的良率其實更低。而且,HBM一旦有一個晶片有缺陷,整個封裝都不能用。另外,HBM的生命週期又比傳統DRAM短。
     



    美光執行長Sanjay Mehrotra 曾表示,HBM因為包含了邏輯控制晶片,加上更複雜的封裝堆疊,且生產HBM過程會很大幅度影響良率,因此生產HBM3和HBM3E會吃掉很大部分的DRAM Wafer供應。
     



    輝達Nvidia執行長黃仁勳也指出,HBM是技術奇蹟,它的技術非常複雜,但能提高AI效能,附加價值非常高,他非常重視與SK 海力士、三星在HBM記憶體上的合作關係。
     



    全球市場中,HBM市佔率最高的是SK海力士,其次是三星,兩者合計應該有占90%市場,美光排名第三。
     



    目前,SK 海力士的 HBM3E已經量產,輝達Nvidia絕對是優先出貨的重要客戶。
     



    三星的8層HBM3E在量產時程上微幅落後,外傳,三星HBM3的良率只有10~20%,但SK海力士的HBM3良率卻已來到60~70%。幸好,三星最終仍是拿下輝達H200訂單。三星也強調自己將會推出業界首款12層HBM3E,是目前容量最高HBM產品,預計會很快量產。

    相關新聞:

    盧超群:HBM良率轉順至少還要2~3年,對DRAM排擠效應剛開始而已

    群聯:不跟進中國模組廠低價拋售NAND Flash,下半年AI PC生意樂觀

    盧超群:DRAM回暖旺到2025年,報價重回疫情前水平

    力積電銅鑼12吋廠啟用典禮,宣布切入CoWoS 先進封裝