2023/9/3

HBM 2Q23想法













  • 結論
    • HBM不會缺貨
    • Foundry端可能更是瓶頸, 加工流程複雜甚至不透明.
    • 有沒HBM的人, 跟沒HBM的人的差別, 是否拉開? 南亞科是否沒戲唱





                        




    • HBM不同一般DRAM
      • 封裝就是收納, 斷捨離, less is more.
      • 3D堆疊就是建捷運共構宅.
      • 比GDDR速度更快, 頻寬更大例如1TB以上.
      • 效能更好, 更省電.
      • density一開始是8Gb, 後來大量提高到24GB. 
        • MPGA封裝(microbump=ubump, 見圖2)
          • FPGA也要用HBM

        • TSV製程一個layer約5000道TSV, 高度會調到CPU一致,
          • 一組CPU配四個HBM(A100配6個), 與foundry的CoWoS配合.
          • SONY CIS之前就用TSV用很兇.
          • 新技術量產時間短, 設備數量有限, 長期的可靠性問題
          • 可以foundry(via middle)做也可以OSAT做(via last)
          • 主要玩家是Hynix, 主要拿到NVDA大客戶.
          • 最底下用interposer連接CPU, 最下面是封裝基板.
            • RDL是interposer上面的布線, HBM沒人管這個.
            • TSV是穿過interposer來往DRAM與CPU, 或往下到封裝基板(圖2-1).
            • interposer用矽, 可能演變使用樹脂.
          • 2.5D 就是建在CPU旁邊, 3D是跟CPU捷運共構
            • 貴且工序複雜
            • 堆疊的熱處理


        圖1, 社區大樓的建置, source: Micron





        圖2, 社區大樓的下水管道建置, 注意TSV通道最上層的DRAM不用經過, source: Micron




        圖2-1, 社區大樓的下水管道建置, interposer就是管道間, source: PC Watch





        圖2-3, 下水管道的PHY層, 就是連接2F interposer下水管道轉彎處, source: Hynix





        圖3: 記憶體廠跟晶圓代工廠的分工流程, source: researchgate





        圖3-1: 分工流程, 本流程疑似貼好記憶體之後才切邏輯晶片 source: Hynix










        圖4: 什麼是3D封裝, 什麼是2.5D封裝, source: PC Watch





        • Hynix HBM summary, (2Q23法說)
          • 繪圖DRAM(HBM) 營收比例由10%(4Q22)拉高到20%(2Q23).
          • 24GB HBM3, 12L目前最大的容量, 之前都是8L.
          • 2023 sales of (DDR5 128GB+ high-density modules + HBM) 銷售額增加兩倍(2x).
          • 2H24 HBM3E量產, 每一世代大約走兩年, 預計HBM4於2026年推出. 之前是HBM2>3>3E.
          • HBM（High Bandwidth Memory）與現在一般的通用的標準化的現成產品不同, 根據客戶的需求度量身訂做, 每年談合約一次, 可以說HBM沒有所謂的庫存問題
          • 2021搶先發布HBM3才超越三星

        • Samsung HBM summary, (2Q23法說)
          • 三星目前量產HBM2 and HBM 2E. 而HMB3目前正在客戶端驗證, 等於落後Hynix一整個世代, 規格為8L 16Gb, 12L 24GB.
          • 投資繼續增加, 明年需求倍增, 在未來5年內，預計將實現中高3x%的年複合增長率.
          • New NCF film for HBM3. HBM PIM製程增加AI效能40%.


        • Micron
          • HBM3 Gen2 (HBM3E), 主打是1 beta製程HBM3 8L 24Gb 3Q23 sample out.
          • HBM3 12L 36GB 1Q24 sample out.
          • 與台積合作.








        • HBM產能幾乎不會不足
          • 量還很小, 只有個位數的占比, 提升空間很容易.
          • 根據歷史, 韓廠在各種DRAM類型之間轉換相對迅速, 例如從PC DRAM轉向移動Mobile Ram, 可能僅需兩個禮拜到一個月的時間就能完成轉換.
          • 之前DRAM價格急劇上漲的問題, 很大一部分歸咎於下游的模組製造廠, 交易商, 代理商, 或是各個終端硬體製造商參與炒作. 然而HBM才剛推出, 主要還是由記憶體原廠控制, 出貨量有限且晶片供應相對集中, 因此價格波動較小, 炒作空間有限.
          • DRAM的行情開年來相對低迷, 其他應用需求差, 產能相對寬鬆.
          • 感覺瓶頸不會在這邊, 更可能還是在foundry那一端.





        • 接下來要解決的問題, 與股價有什麼相關
          • HBM對於記憶體公司無直接相關, 量很小.
          • 南亞科無受益, 或許以後會有產能排擠需求外溢到南亞科.
          • 對於設備商或是週邊人的股價, 感覺會受益但不透明.
          • 對於NVDA的股價, AI股災後目前已經不是重點.
          • Capex問題, 有需要特殊製程特殊設備嗎? Towa, Tazmo等, 新設備出來, 沒看到有深度分析.
          • 封裝問題, 也是號稱量身訂做很麻煩
          • diesize記得很小, 研發基礎是DDR5.
          • 大洞40um以上用CO2雷射, 小洞用UV雷射.
          • 三星的HBM-PIM (記憶體內處理器，Processor In Memory)號稱能提升AI晶片效能.










        source: 
        https://en.wikipedia.org/wiki/High_Bandwidth_Memory
        https://www.eetimes.eu/memory-bottlenecks-overcoming-a-common-ai-problem/
        https://investors.micron.com/news-releases/news-release-details/meiguangfabusudurongliangaoshiyejiedegaopinkuanjiyitihbm
        https://pc.watch.impress.co.jp/docs/column/kaigai/646660.html
        https://www.researchgate.net/publication/291280306_3D_technology_with_application_to_high_bandwidth_and_processor-memory_modules 17頁討論TSV
        https://www.formfactor.com/wp-content/uploads/S01_02_Loranger_SWTW2016-2.pdf SK Hynix的演講擷圖
        https://www.inrevium.com/pickup/hbm/
        https://www.inrevium.com/pickup/3d-integration-package/  應該就是InFO