匯正研究所：HBM行業(yè)深度研究報(bào)告

HBM存儲(chǔ)為GPU而生
 

　　HBM(HighBandwidthMemory)即高帶寬存儲(chǔ)器，是一種基于3D堆疊工藝的DRAM內(nèi)存芯片，具有高內(nèi)存帶寬、低能耗、更多I/O數(shù)量、更小尺寸等優(yōu)勢(shì)。HBM最早由海力士在2013年推出，起初主要用于提升GPU的讀寫速度，因此最先用于搭載獨(dú)立顯卡的游戲本(游戲本/臺(tái)式機(jī))，2016-2017年被用于GPU礦機(jī)提升挖礦效率，同期研究學(xué)者們發(fā)現(xiàn)了GPU在深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)中具備超高效率，包括OpenAI等團(tuán)隊(duì)開始采用GPU進(jìn)行機(jī)器學(xué)習(xí)研究，2022年OpenAI推出ChatGPT大模型，集成HBM的高性能英偉達(dá)GPU成為AI訓(xùn)練的核武器，市場(chǎng)開始瘋搶GPU和HBM?；厮輾v史我們發(fā)現(xiàn)，HBM從出生開始，一直都是和GPU深度綁定。
 

　　圖：HBM從出現(xiàn)開始就是和GPU深度綁定的
 

　　資料來源：HBM白皮書 匯正研究所
 

　　HBM主采用了堆疊封裝工藝
 

　　HBM和傳統(tǒng)DRAM的差別只是封裝結(jié)構(gòu)不同，HBM將多個(gè)DRAM die通過TSV(硅通孔)和Microbump(微凸塊)工藝堆疊起來，再通過uBump和Interposer(中介層)連接到GPU芯片上，借用AMD CEO蘇豐姿的話來說HBM相當(dāng)于將DRAM顆粒由傳統(tǒng)的平房設(shè)計(jì)轉(zhuǎn)變?yōu)闃欠吭O(shè)計(jì)，可實(shí)現(xiàn)更高的性能和帶寬。
 

　　圖：DRAM和HBM的封裝架構(gòu)明顯不同
 

　　資料來源：ADM官網(wǎng) 匯正研究所
 

　　HBM存儲(chǔ)成為AI算力提升的關(guān)鍵
 

　　HBM速率快 體積小 功耗低：HBM通過TSV 工藝將多個(gè)DRAM 堆疊起來，大幅提升內(nèi)部傳輸帶寬，并降低功耗和芯片封裝尺寸，封住后的HBM疊層在通過Interposer中介層與GPU芯片互聯(lián)封裝在一起，實(shí)現(xiàn)近存計(jì)算，縮短數(shù)據(jù)傳輸距離并提升傳輸速率，在較小的物理空間里實(shí)現(xiàn)高容量、高帶寬、低延時(shí)與低功耗，根據(jù)三星公布的數(shù)據(jù)，采用TSV堆疊+Interposer中介層封裝的HBM存儲(chǔ)相比于傳統(tǒng)獨(dú)立封裝的DRAM產(chǎn)品，體積減少35%，功耗降低50%，帶寬提升8倍。
 

　　使用HBM 可以大幅提升AI芯片性能：英偉達(dá)第一代專業(yè)的AI訓(xùn)練GPU A100采用臺(tái)積電7nm制程+HBME2存存儲(chǔ)，算力約為20T，第二代產(chǎn)品H100采用臺(tái)積電4nm制程+HBME2存存儲(chǔ)，算力約為51T，通過制程的提升，芯片性能翻倍，但是到最新發(fā)布的第三代產(chǎn)品H200，該芯片采用和H100完全相同的架構(gòu)、設(shè)計(jì)和工藝制程，晶體管數(shù)量，芯片峰值算力都和H100相同，只是搭載了容量更大速度更快的HBM3e 內(nèi)存，實(shí)際推理中的效率就提升了90%，僅僅擴(kuò)大HBM就能夠顯著提升AI芯片性能，因此HBM已經(jīng)從一款存儲(chǔ)升級(jí)為AI算力的倍增器。
 

　　圖：僅僅增加HBM就能夠提升模型推理速度
 

　　所有芯片廠商都把HBM作為AI芯片的標(biāo)配

　　2023年底OpenAI推出了全球首款A(yù)I 大模型ChatGPT，超大語(yǔ)言模型對(duì)算力的提升速度要求已經(jīng)突破了后摩爾時(shí)代算力提升速度的極限，“內(nèi)存墻(顯存的帶寬和傳輸速度遠(yuǎn)低于GPU的運(yùn)算能力)”的存在嚴(yán)重制約了高性能GPU芯片算力的釋放，因此具備高帶寬、大容量、低功耗、高集成特點(diǎn)的HBM成為是高速計(jì)算平臺(tái)的最優(yōu)解決方案，集成HBM的高性能GPU顯卡成為AI訓(xùn)練推理的標(biāo)配，截止到目前所有在2023年之后推出的AI GPU均集成了HBM存儲(chǔ)。
 

　　圖：所有廠商的AI芯片均搭載了HBM產(chǎn)品
 

　　資料來源：高盛 匯正研究所
 

　　產(chǎn)品升級(jí)疊加需求爆發(fā) 行業(yè)高增長(zhǎng)
 

　　AI芯片帶動(dòng)HBM需求量爆發(fā)：2022 年全球 HBM 銷量約為1.8億GB， 2023 年由于AI 大模型的出現(xiàn)，AI服務(wù)器銷量大幅增加，同時(shí)單機(jī)HBM容量從上一代的150G增加到640G，整個(gè)HBM需求增長(zhǎng)60%達(dá)到2.9億GB，2024年最一代服務(wù)器中單機(jī)HBM單機(jī)容量進(jìn)一步擴(kuò)大到1040G，隨著英偉達(dá)AI芯片的放量，外加AMD、英特爾、谷歌等公司自研的搭載HBM的芯片上市，HBM需求會(huì)加速爆發(fā)，預(yù)計(jì)2024 年全球HBM需求將會(huì)達(dá)到5.8億GB，2027年進(jìn)一步提升到40億GB。
 

　　供應(yīng)緊張疊加規(guī)格升級(jí) 價(jià)格持續(xù)保持高位：2023 年由于 AI意外火爆，導(dǎo)致HBM供應(yīng)嚴(yán)重短缺，行業(yè)需求超過總產(chǎn)能的1.05倍，外加供應(yīng)鏈備貨和過度下單，市場(chǎng)缺口更大，預(yù)計(jì) 2024 年隨著各原廠積極擴(kuò)產(chǎn)的效果顯現(xiàn)，HBM 供需比有望獲改善，但是依然存在少量的缺口，供需緊張下產(chǎn)品價(jià)格會(huì)維持高位，與此同時(shí)主流 HBM 產(chǎn)品也逐步從 HBM2E 升級(jí)為價(jià)值量更高的HBM3 甚至HBM3E(預(yù)計(jì)2024年HBM3占比將從2023年的35%提高到60%以上)，進(jìn)一步提高產(chǎn)品價(jià)格，預(yù)計(jì)2024年HBM存儲(chǔ)價(jià)格至少能夠維持23Q3時(shí)10美元/Gb的水平，并在后續(xù)保持穩(wěn)定。
 

　　行業(yè)規(guī)模4年10倍：2023年全球HBM市場(chǎng)約為35億美元，預(yù)計(jì)到2027年將會(huì)達(dá)到350億美元，約為2023年的10倍，年復(fù)合增速超過58%。
 

　　圖：HBM市場(chǎng)規(guī)模4年10倍
 

　　數(shù)據(jù)來源：高盛 匯正研究所
 

　　海外壟斷 國(guó)內(nèi)目前不能生產(chǎn)
 

　　當(dāng)前HBM市場(chǎng)仍由三大家主導(dǎo)，2022年全年SK海力士占50%，三星占40%，美光占10%。根據(jù)TrendForce，HBM市場(chǎng)仍由三星、海力士、鎂光三家海外公司壟斷，2022年全年SK海力士份額50%，其次是三星40%，美光10%，目前國(guó)內(nèi)廠商還不掌握相關(guān)量產(chǎn)技術(shù)。
 

　　圖：全球HBM市場(chǎng)格局
 

　　資料來源：IDC 匯正研究所
 

　　投資機(jī)會(huì)：產(chǎn)品 設(shè)備 材料 國(guó)產(chǎn)替代
 

　　HBM市場(chǎng)需求爆發(fā)式增長(zhǎng)，最為受益的肯定是生產(chǎn)銷售HBM的廠商，其次是受益HBM產(chǎn)能擴(kuò)張的設(shè)備材料供應(yīng)商，接下來看HBM國(guó)產(chǎn)替代供應(yīng)鏈。
 

　　HBM產(chǎn)品
 

　　HBM生產(chǎn)商三星、海力士肯定是HBM需求爆發(fā)最直接的受益者，但是全球HBM廠商都被海外廠商壟斷，國(guó)內(nèi)只有香農(nóng)芯創(chuàng)作為海力士HBM產(chǎn)品在華獨(dú)家代理商，有一點(diǎn)關(guān)系。
 

　　海外HBM擴(kuò)產(chǎn)-設(shè)備材料
 

　　測(cè)試設(shè)備：傳統(tǒng)的DRAM 測(cè)試流程主要包括晶圓級(jí)測(cè)試(老化測(cè)試、冷/熱測(cè)試和修復(fù)測(cè)試)和封裝級(jí)測(cè)試，而 HBM生產(chǎn)中增加了鍵合工藝、TSV工藝、Base die結(jié)構(gòu)等，每一道工藝都需要相應(yīng)的測(cè)試，并且由于HBM是三維結(jié)構(gòu)并并且IO接口密度遠(yuǎn)高于DRAM產(chǎn)品，需要重新開發(fā)相應(yīng)的測(cè)試設(shè)備和測(cè)試工藝，這會(huì)帶來大量的測(cè)試設(shè)備需求。相關(guān)公司都是海外企業(yè)如康特科技、ASMPT、泰瑞達(dá)、愛德萬(wàn)等。
 

　　銅電鍍?cè)O(shè)備：HBM需要采用TVS工藝將4層DRAM堆疊在一起并實(shí)現(xiàn)高速互聯(lián)互通，因此會(huì)用到大量的TVS工藝，對(duì)于電鍍?cè)O(shè)備和電鍍液需求增加，相關(guān)供應(yīng)商都是海外企業(yè)，東京電子等。
 

　　材料：HBM試用了大量的TVS(Through Silicon Via硅通孔，在硅微孔中鍍銅形成電路)工藝，因此電鍍液需求也會(huì)增加，相關(guān)供應(yīng)商主要是東京電子等，除了電鍍液之外其他傳統(tǒng)DRAM使用的材料諸如光刻較、特氣、硅片、填料等需求也會(huì)增增加，但是彈性很小。國(guó)內(nèi)雅克科技(海力士光刻較前驅(qū)體)、聯(lián)瑞新材(顆粒硅填料)在部分產(chǎn)品在認(rèn)證，但是目前還沒有導(dǎo)入。
 

　　國(guó)產(chǎn)HBM
 

　　根據(jù)公開媒體的報(bào)道，目前國(guó)內(nèi)存儲(chǔ)廠商已經(jīng)突破HBM核心技術(shù)，預(yù)計(jì)2025年底國(guó)產(chǎn)HBM將會(huì)上市。目前已經(jīng)確定的供應(yīng)商包括通富微電(掌握2.5D/3D封裝技術(shù)，配套國(guó)產(chǎn)HBM封測(cè) )，其他還有大量先后炒作過的公司，他們的產(chǎn)品和HBM生產(chǎn)所需的產(chǎn)品重疊，但是并沒有供貨，最多只是傳聞參與驗(yàn)證，不做介紹。
 

　　圖：HBM產(chǎn)線投資機(jī)會(huì)