HBM, Yüksek Bant Genişlikli Bellek anlamına gelir. Bu, büyük miktarda verinin aralarında hızla hareket edebilmesi için bir işlemciye yakın yerleştirilmiş yığılmış bir DRAM biçimidir. Yapay zeka çiplerinin hesaplama birimlerini meşgul tutmak için bu veri akışına ihtiyacı vardır.
Bir işlemci hesaplamalar yapar; bellek bunlar için veriyi sağlar. İşlemci bilgi bekleyerek zaman harcarsa, daha fazla işlem gücü çok az fayda sağlar. Bu nedenle, yapay zeka endüstrisi haberlerinde bellek şirketleri GPU tasarımcılarının yanında yer alır.
HBM Ne Anlama Geliyor?
Yüksek Bant Genişlikli Bellek, yüksek veri işlem hacmi için üretilmiş belleği ifade eder; bu, belirli bir sürede ne kadar bilgiyi aktarabileceği anlamına gelir. "Bant genişliği" kelimesi, bir cihazın kalıcı olarak ne kadar dosya depoladığı değil, o veri akışının genişliğini ifade eder.
Micron, HBM'yi yapay zeka ve yüksek performanslı bilgi işlem için yığılmış DRAM olarak tanımlar. Tüm bellek yongalarını yan yana yerleştirmek yerine, üreticiler katmanlar oluşturur ve bunları yığın aracılığıyla bağlar.
Tek katlı evler sırası yerine bir apartman binası hayal edin. Yığma, alanı farklı kullanırken, birçok paralel bağlantı verinin geniş bir arayüzden hareket etmesini sağlar. Fiziksel bağlantılar küçüktür, ancak içlerinden geçen veri miktarı büyüktür.
Kapasite ve bant genişliği farklı şeyleri ölçer:
| Ölçüm | Cevapladığı Soru |
|---|---|
| Kapasite, genellikle GB | Bellek aynı anda ne kadar veri tutabilir? |
| Bant genişliği, genellikle GB/s veya TB/s | Her saniye ne kadar veri hareket edebilir? |
Kapasiteyi artırmak, daha büyük bir su tankına sahip olmak gibidir. Bant genişliğini artırmak, daha geniş bir boruya sahip olmak gibidir. Bir sistemin, gerçekleştirdiği işe bağlı olarak bunlardan daha fazlasına ihtiyacı olabilir.
HBM Ne İçin Kullanılır?
HBM, yapay zeka ve diğer yüksek performanslı iş yüklerinde kullanılan zorlu işlemcilere veri sağlar. Bir yapay zeka modelini eğitmek ve bu modeli çalıştırmak, büyük miktarda bilginin tekrar tekrar hareketini gerektirir.
Eğitim sırasında sistem, örnekleri tekrar tekrar işler ve modeli günceller. Çıkarım sırasında, yani önceden eğitilmiş bir model kullanırken, sistem bir cevap üretmek için model verilerini okur. Tam darboğaz iş yüküne bağlıdır, ancak bellek teslimatı, bir işlemcinin ne kadar faydalı iş tamamlayabildiğini sınırlayabilir.
Lam Research'ün HBM açıklaması, HBM'yi GPU'lara ihtiyaç duydukları veriyi beslemenin bir yolu olarak tanımlar. Yoğun bir restoranda, malzemeler yeterince hızlı ulaşırsa ek aşçılar daha fazla yemek hazırlayabilir.
Bu aynı zamanda yapay zeka yatırımının neden bir işlemci tasarlayan şirketten daha fazlasına fayda sağlayabileceğini de açıklar. Bellek tedarikçileri, paketleme sağlayıcıları ve ekipman üreticileri bitmiş sistemin farklı parçalarını oluşturur.
Bir iş örneği olarak, SK Hynix'in kazanç önizlemesi yapay zeka bellek siparişlerini satış ve karla ilişkilendirir. Daha fazla sipariş geliri artırabilirken, üretim maliyetleri bu gelirin ne kadarının kara dönüştüğünü belirler.
HBM DDR'den Daha mı Hızlı?
HBM genellikle geleneksel bir DDR bellek modülünden çok daha yüksek toplu bant genişliği sağlar, ancak "daha hızlı" belirli bir anlam gerektirir. Bant genişliği, yanıt süresi, kapasite, maliyet ve değiştirme kolaylığı farklı özelliklerdir.
| Özellik | HBM | Tipik DDR sistem belleği |
|---|---|---|
| Yaygın rol | Yüksek performanslı hızlandırıcıları besler | Genel bilgisayar ve sunucu iş yüklerini destekler |
| Yerleşim | İşlemciye yakın paketlenmiş | Genellikle ayrı bellek modüllerine monte edilir |
| Veri bağlantısı | Çok geniş, yüksek paralel arayüz | Farklı arayüz ve sistem düzeni |
| Kullanıcı yükseltmesi | Hızlandırıcı paketinin bir parçası | Sistem desteklediği yerlerde genellikle değiştirilebilir |
Rambus'un HBM genel bakışı, yığma ve geniş bağlantıların yüksek işlem hacmini nasıl desteklediğini açıklar. HBM, devasa miktarda veri taşıyan iş yükleri için uygundur, oysa DDR birçok bilgisayar için kapasite, maliyet ve değiştirilebilir modüllerin pratik bir karışımını sunar.
Bir teslimat analojisi yardımcı olur. Tek bir şeritten daha fazla malı dakikada taşıyabilen birkaç paralel yükleme şeridi, tek bir aracın daha hızlı gitmemesi durumunda bile daha fazla mal taşıyabilir. HBM'nin avantajı benzer şekilde büyük bir toplam veri miktarını taşımakla ilgilidir.
HBM, hızlandırıcı paketine entegre olarak gelir. Yükseltmek genellikle hızlandırıcıyı değiştirmek anlamına gelirken, desteklenen DDR modülleri birçok masaüstü ve sunucu sisteminde tek tek değiştirilebilir.
HBM Temelde DRAM midir?
Evet. HBM, yığılmış bellek çiplerinden yapılmış bir DRAM türüdür. DDR de farklı bir düzene ve işlemciye bağlantıya sahip DRAM kullanır.
DRAM, çalışma belleğidir: bir bilgisayar çalışırken ihtiyaç duyduğu bilgileri geçici olarak tutar. SSD gibi depolama, güç kesildiğinde dosyaları tutarak farklı bir amaç sağlar. HBM, güç kesildiğinde içeriğini kaybeder; SSD kaydedilen dosyaları saklar.
DRAM'i daha geniş aile olarak düşünün; HBM ve DDR tabanlı ürünler bu aile içinde farklı işler için tasarlanmıştır. Her ikisi de geçici bellek hücreleri kullanır, ancak fiziksel düzenleri ve bağlantıları farklı iş yüklerine uygundur.
Bir şirket, farklı müşterilere farklı fiyatlarla çeşitli bellek türleri satabilir. Samsung'un kazanç önizlemesi, bellek satışlarının telefonlar, ekranlar ve diğer ürünleri de satan bir gruba nasıl katkıda bulunduğunu gösterir.
Tapbit'te Yapay Zeka Çipiyle İlgili Piyasaları Nasıl Keşfedebilirsiniz
NVDA-USDT, ayrı bir yapay zeka çipiyle ilgili sözleşmedir; HBM donanımının veya bellek üreticisi hisselerinin sahipliğini sağlamaz.
- Tapbit'e kaydolun veya giriş yapın ve USDT hazırlayın.
- NVDA-USDT vadeli işlemlerini açın; sözleşmeyi, marj modunu ve kaldıracı gözden geçirin.
- Yönü, emir türünü, miktarı ve kar al/zarar durdur ayarlarını seçin.
- Ücretleri, marjı ve tasfiye fiyatını kontrol edin, pozisyonu onaylayın ve çıkışa kadar izleyin.
SSS
HBM'yi kim yapar?
Başlıca tedarikçiler arasında SK Hynix, Samsung Electronics ve Micron bulunmaktadır. Yüksek performanslı bilgi işlem sistemlerinde kullanılan belleği tedarik ederler.
AMD hala HBM kullanıyor mu?
Evet. AMD'nin Instinct MI355X ürün spesifikasyonları HBM3E listeler. HBM, veri merkezi hızlandırıcılarına hizmet ederken, birçok tüketici grafik kartı GDDR bellek kullanır.
