HBM 代表高頻寬記憶體 (High-Bandwidth Memory)。它是一種堆疊式 DRAM，放置在處理器附近，以便能夠快速地在兩者之間移動大量數據。AI 晶片需要這種數據供應來保持其計算單元忙碌。
處理器執行計算；記憶體則提供數據供其使用。如果處理器花費時間等待資訊，那麼更強大的計算能力的好處就很小。這就是為什麼在 AI 產業新聞中，記憶體公司會與 GPU 設計公司並列出現。
HBM 是什麼意思？
高頻寬記憶體描述的是為高數據吞吐量而建的記憶體，這意味著它在給定時間內可以傳輸多少資訊。「頻寬」一詞指的是數據供應的寬度，而不是設備永久儲存多少文件。
美光將 HBM 描述為用於 AI 和高性能運算 (HPC) 的堆疊式 DRAM。製造商不是將所有記憶體 dies 放在彼此旁邊，而是建立層並通過堆疊將它們連接起來。
想像一座公寓大樓，而不是一排平房。堆疊的使用空間方式不同，而許多並行連接讓數據可以通過寬介面移動。儘管通過它們移動的數據量很大，但物理連接卻非常小。
容量和頻寬衡量不同事物：
| 衡量標準 | 它回答的問題 |
|---|---|
| 容量，通常為 GB | 記憶體一次可以容納多少數據？ |
| 頻寬，通常為 GB/s 或 TB/s | 每秒可以移動多少數據？ |
增加容量就像擁有一個更大的水箱。增加頻寬就像擁有一根更寬的管子。系統可能需要其中一種更多，具體取決於它執行的工作。
HBM 用於什麼？
HBM 為 AI 和其他高性能工作負載中使用的要求嚴苛的處理器提供數據。訓練 AI 模型和運行該模型都需要重複移動大量資訊。
在訓練期間，系統會重複處理範例並更新模型。在推理期間（即使用已訓練好的模型），系統會讀取模型數據以產生答案。確切的瓶頸取決於工作負載，但記憶體傳輸可能會限制處理器完成多少有效工作。
Lam Research 的 HBM 解釋將 HBM 描述為一種為 GPU 提供所需數據的方式。在繁忙的餐廳裡，除非食材能快速送達，否則額外的廚師才能準備更多餐點。
這也解釋了為什麼 AI 投資可能使設計處理器的公司以外的更多方受益。記憶體供應商、封裝提供商和設備製造商為成品系統貢獻了不同的組件。
以商業範例來說，SK 海力士的財報預覽將 AI 記憶體訂單與銷售和利潤聯繫起來。更多的訂單可以增加收入，而生產成本決定了收入中有多少能轉化為利潤。
HBM 比 DDR 快嗎？
HBM 通常比傳統 DDR 記憶體模組提供更高的總體頻寬，但「更快」需要有特定的含義。頻寬、響應時間、容量、成本和更換的便利性是不同的特徵。
| 特徵 | HBM | 典型 DDR 系統記憶體 |
|---|---|---|
| 常見角色 | 為高性能加速器提供數據 | 支援通用電腦和伺服器工作負載 |
| 放置 | 封裝在處理器附近 | 通常安裝在獨立的記憶體模組上 |
| 數據連接 | 非常寬、高度並行的介面 | 不同的介面和系統佈局 |
| 用戶升級 | 加速器封裝的一部分 | 在系統支援的情況下通常可更換 |
Rambus 的 HBM 概述解釋了堆疊和寬連接如何支援高吞吐量。HBM 適用於移動大量數據的工作負載，而 DDR 為許多電腦提供了容量、成本和可更換模組的實用組合。
一個運輸類比有助於理解。幾條並行裝載通道每分鐘可以運送比一條通道更多的貨物，即使單獨的車輛速度沒有更快。HBM 的優勢同樣在於移動大量總數據。
HBM 被整合到加速器封裝中。升級它通常意味著更換加速器，而在許多桌上型電腦和伺服器系統中，支援的 DDR 模組可以單獨更換。
HBM 本質上是 DRAM 嗎？
是的。HBM 是一種 DRAM，由堆疊的記憶體晶片構成。DDR 也使用 DRAM，但其佈局和與處理器的連接方式不同。
DRAM 是工作記憶體：它在電腦運行時暫時保存電腦所需的資訊。儲存裝置，如 SSD，則通過在斷電時保留文件來實現不同的目的。HBM 在斷電時會丟失其內容；SSD 則保留儲存的文件。
將 DRAM 視為一個大家族，HBM 和 DDR 產品在這個家族中針對不同的工作而設計。兩者都使用臨時記憶體單元，但它們的物理佈局和連接適合不同的工作負載。
一家公司可以向不同的客戶以不同的價格出售多種類型的記憶體。三星的財報預覽顯示了記憶體銷售如何為一個還銷售手機、顯示器和其他產品的集團做出貢獻。
如何在 Tapbit 上探索 AI 晶片相關市場
NVDA-USDT 是一個獨立的 AI 晶片相關合約；它不提供 HBM 硬體或記憶體製造商股份的所有權。
- 註冊或登錄 Tapbit 並準備 USDT。
- 打開 NVDA-USDT 期貨；查看合約、保證金模式和槓桿。
- 選擇方向、訂單類型、數量以及止盈/止損設置。
- 檢查費用、保證金和清算價，確認並監控倉位直至退出。
常見問題
誰製造 HBM？
主要供應商包括 SK 海力士、三星電子和美光。他們為高性能運算系統提供記憶體。
AMD 還使用 HBM 嗎？
是的。AMD 的 Instinct MI355X 產品規格列出了 HBM3E。HBM 用於其數據中心加速器，而許多消費級顯卡則使用 GDDR 記憶體。
