HBM مخفف حافظه با پهنای باند بالا (High-Bandwidth Memory) است. این نوع حافظه، DRAM پشته‌ای است که نزدیک پردازنده قرار می‌گیرد تا مقادیر زیادی داده بتوانند به سرعت بین آن‌ها منتقل شوند. تراشه‌های هوش مصنوعی برای مشغول نگه داشتن واحدهای محاسباتی خود به این تأمین داده نیاز دارند.
پردازنده محاسبات را انجام می‌دهد؛ حافظه داده‌های لازم برای آن را فراهم می‌کند. قدرت محاسباتی بیشتر زمانی سود کمی دارد که پردازنده زمان خود را صرف انتظار برای اطلاعات کند. به همین دلیل است که شرکت‌های حافظه در کنار طراحان GPU در اخبار صنعت هوش مصنوعی ظاهر می‌شوند.
HBM به چه معناست؟
حافظه با پهنای باند بالا (High-Bandwidth Memory) حافظه‌ای را توصیف می‌کند که برای توان عملیاتی بالای داده ساخته شده است، به این معنی که چه مقدار اطلاعات را می‌تواند در یک زمان معین منتقل کند. کلمه «پهنای باند» به عرض آن منبع داده اشاره دارد، نه به تعداد فایل‌هایی که یک دستگاه به طور دائم ذخیره می‌کند.
Micron، HBM را به عنوان DRAM پشته‌ای برای هوش مصنوعی و محاسبات با کارایی بالا توصیف می‌کند. تولیدکنندگان به جای قرار دادن تمام لایه‌های حافظه در کنار هم، لایه‌هایی را می‌سازند و آن‌ها را از طریق پشته به هم متصل می‌کنند.
ساختمان آپارتمانی را به جای ردیفی از خانه‌های تک‌طبقه تصور کنید. پشته‌سازی از فضا به طور متفاوتی استفاده می‌کند، در حالی که اتصالات موازی متعدد به داده‌ها اجازه می‌دهند از طریق یک رابط گسترده حرکت کنند. اتصالات فیزیکی بسیار کوچک هستند، حتی اگر مقدار داده‌ای که از آن‌ها عبور می‌کند زیاد باشد.
ظرفیت و پهنای باند معیارهای متفاوتی را اندازه‌گیری می‌کنند:
| معیار | سؤالی که پاسخ می‌دهد |
|---|---|
| ظرفیت، معمولاً گیگابایت | حافظه در یک زمان چه مقدار داده می‌تواند نگه دارد؟ |
| پهنای باند، معمولاً گیگابایت بر ثانیه یا ترابایت بر ثانیه | هر ثانیه چه مقدار داده می‌تواند منتقل شود؟ |
افزایش ظرفیت مانند داشتن یک مخزن آب بزرگتر است. افزایش پهنای باند مانند داشتن یک لوله عریض‌تر است. بسته به کاری که یک سیستم انجام می‌دهد، ممکن است به هر کدام بیشتر نیاز داشته باشد.
HBM برای چه مواردی استفاده می‌شود؟
HBM داده‌ها را برای پردازنده‌های پرتقاضا که در هوش مصنوعی و سایر کارهای محاسباتی با کارایی بالا استفاده می‌شوند، تأمین می‌کند. آموزش یک مدل هوش مصنوعی و اجرای آن مدل هر دو نیازمند جابجایی مکرر مقادیر زیادی اطلاعات هستند.
در طول آموزش، سیستم به طور مکرر نمونه‌ها را پردازش کرده و مدل را به‌روز می‌کند. در طول استنتاج، به معنی استفاده از یک مدل از پیش آموزش‌دیده، سیستم داده‌های مدل را برای تولید یک پاسخ می‌خواند. گلوگاه دقیق به بار کاری بستگی دارد، اما تحویل حافظه می‌تواند میزان کار مفیدی را که پردازنده تکمیل می‌کند، محدود کند.
توضیح HBM توسط Lam Research، HBM را راهی برای تغذیه GPUها با داده‌های مورد نیازشان توصیف می‌کند. در یک رستوران شلوغ، آشپزهای اضافی تنها در صورتی می‌توانند وعده‌های غذایی بیشتری تهیه کنند که مواد اولیه به سرعت به آن‌ها برسد.
این همچنین توضیح می‌دهد که چرا سرمایه‌گذاری در هوش مصنوعی می‌تواند بیش از شرکتی که پردازنده را طراحی می‌کند، سودمند باشد. تأمین‌کنندگان حافظه، ارائه‌دهندگان بسته‌بندی و سازندگان تجهیزات، قطعات مختلفی از سیستم نهایی را ارائه می‌دهند.
به عنوان مثال تجاری، پیش‌بینی درآمد SK Hynix، سفارشات حافظه هوش مصنوعی را با فروش و سود مرتبط می‌کند. سفارشات بیشتر می‌تواند درآمد را افزایش دهد، در حالی که هزینه‌های تولید تعیین می‌کند چه مقدار از آن درآمد به سود تبدیل می‌شود.
آیا HBM سریعتر از DDR است؟
HBM به طور کلی پهنای باند تجمعی بسیار بالاتری نسبت به ماژول حافظه DDR معمولی ارائه می‌دهد، اما «سریعتر» نیاز به معنای خاصی دارد. پهنای باند، زمان پاسخ، ظرفیت، هزینه و سهولت تعویض، ویژگی‌های متفاوتی هستند.
| ویژگی | HBM | حافظه سیستم DDR معمولی |
|---|---|---|
| نقش رایج | تغذیه شتاب‌دهنده‌های با کارایی بالا | پشتیبانی از کارهای عمومی رایانه و سرور |
| محل قرارگیری | نزدیک پردازنده بسته‌بندی شده است | اغلب روی ماژول‌های حافظه جداگانه نصب می‌شود |
| اتصال داده | رابط بسیار گسترده و موازی | رابط و چیدمان سیستم متفاوت |
| ارتقاء توسط کاربر | بخشی از بسته شتاب‌دهنده | در مواردی که سیستم پشتیبانی می‌کند، قابل تعویض است |
مرور کلی HBM توسط Rambus توضیح می‌دهد که چگونه پشته‌سازی و اتصالات گسترده از توان عملیاتی بالا پشتیبانی می‌کنند. HBM برای کارهایی که مقادیر عظیمی از داده را جابجا می‌کنند مناسب است، در حالی که DDR ترکیبی عملی از ظرفیت، هزینه و ماژول‌های قابل تعویض را برای بسیاری از رایانه‌ها ارائه می‌دهد.
یک مثال تحویل کمک می‌کند. چندین خط بارگیری موازی می‌توانند در هر دقیقه کالاهای بیشتری را نسبت به یک خط جابجا کنند، حتی اگر یک وسیله نقلیه منفرد سریعتر حرکت نکند. مزیت HBM به طور مشابه مربوط به جابجایی مقدار کل زیادی از داده‌ها است.
HBM در بسته شتاب‌دهنده ادغام شده است. ارتقاء آن معمولاً به معنی تغییر شتاب‌دهنده است، در حالی که ماژول‌های DDR پشتیبانی شده را می‌توان در بسیاری از سیستم‌های دسکتاپ و سرور به صورت جداگانه تعویض کرد.
آیا HBM اساساً DRAM است؟
بله. HBM نوعی DRAM است که از تراشه‌های حافظه پشته‌ای ساخته شده است. DDR نیز از DRAM استفاده می‌کند، اما با چیدمان و اتصال متفاوت به پردازنده.
DRAM حافظه کاری است: اطلاعاتی را که رایانه هنگام اجرا نیاز دارد به طور موقت نگه می‌دارد. حافظه ذخیره‌سازی، مانند SSD، با نگهداری فایل‌ها در هنگام قطع برق، هدف متفاوتی را انجام می‌دهد. HBM محتویات خود را هنگام قطع برق از دست می‌دهد؛ SSD فایل‌های ذخیره شده را حفظ می‌کند.
DRAM را به عنوان خانواده گسترده‌تری در نظر بگیرید، که محصولات مبتنی بر HBM و DDR برای کارهای مختلف در این خانواده طراحی شده‌اند. هر دو از سلول‌های حافظه موقت استفاده می‌کنند، اما چیدمان فیزیکی و اتصالات آن‌ها برای بارهای کاری متفاوت مناسب است.
یک شرکت می‌تواند انواع مختلفی از حافظه را با قیمت‌های متفاوت به مشتریان مختلف بفروشد. پیش‌بینی درآمد سامسونگ نشان می‌دهد که چگونه فروش حافظه به گروهی کمک می‌کند که تلفن، نمایشگر و سایر محصولات را نیز می‌فروشد.
چگونه بازارهای مرتبط با تراشه هوش مصنوعی را در Tapbit کاوش کنیم
قرارداد NVDA-USDT یک قرارداد جداگانه مرتبط با تراشه هوش مصنوعی است؛ این قرارداد مالکیت سخت‌افزار HBM یا سهام تولیدکننده حافظه را ارائه نمی‌دهد.
- در Tapbit ثبت نام کنید یا وارد شوید و USDT آماده کنید.
- قراردادهای آتی NVDA-USDT را باز کنید؛ قرارداد، حالت مارجین و اهرم را بررسی کنید.
- جهت، نوع سفارش، مقدار و تنظیمات حد سود/حد ضرر را انتخاب کنید.
- هزینه‌ها، مارجین و قیمت لیکوئید شدن را بررسی کنید، موقعیت را تأیید و تا خروج نظارت کنید.
سوالات متداول
چه کسی HBM را تولید می‌کند؟
تأمین‌کنندگان اصلی شامل SK Hynix، Samsung Electronics و Micron هستند. آن‌ها حافظه مورد استفاده در سیستم‌های محاسباتی با کارایی بالا را تأمین می‌کنند.
آیا AMD هنوز از HBM استفاده می‌کند؟
بله. مشخصات محصول Instinct MI355X از AMD، HBM3E را فهرست می‌کند. HBM به شتاب‌دهنده‌های مرکز داده آن خدمت می‌کند، در حالی که بسیاری از کارت‌های گرافیک مصرفی از حافظه GDDR استفاده می‌کنند.
