Nvidia dünyanın en güçlü yapay zeka çipi Blackwell B200’ü tanıttı: İşte teknik detaylar

Metin Yasir Akpınar · 2024-03-19T10:45:55.0000000+03:00

[html] Nvidia , firmayı trilyon dolarlık şirket haline getiren ve dünyanın en değerli üçüncü şirketi konumuna yükselten Hopper H100 GPU'lara kıyasla 5 kata kadar performans artışı sunan yeni nesil Blackwell GPU mimarisini resmi olarak tanıttı. Rakipleri Nvidia’yı yakalamaya çalışırken firma Blackwell tabanlı yeni yeni Blackwell B200 GPU ve GB200 Superchip ürünlerini de resmen duyurdu. İşte tüm merak edilenler ve detaylar: Nvidia Blackwell mimarisi ve yeni Blackwell B200 Nvidia, düzenlediği etkinlikte Blackwell kod adlı yeni nesil AI Tensor Core GPU mimarisini detaylandırdı. Beklendiği gibi Blackwell GPU'ları, Nvidia’nın aynı kalıp üzerinde iki GPU'yu bir araya getirdiği ilk MCM tasarımı olacak. Blackwell mimarisi TSMC 4NP işlem sürecinde üretilen her bir hesaplama kalıbında toplam 104 Milyar transistör içeriyor. B100 GPU'lar, süper hızlı çipten çipe ara bağlantı sağlayan 10 TB/s yüksek bant genişliğine sahip bir arayüze sahip. Bu GPU'lar aynı paket üzerinde tek bir çip olarak birleştirilirken toplamda 208 milyar transistöre erişiliyor ve tümüyle GPU önbellek bütünlüğü sunuyor. Hopper ile karşılaştırıldığında, Nvidia Blackwell GPU 128 milyar daha fazla transistör , çip başına 20 petaFlop'a yükseltilmiş 5 kat daha fazla yapay zeka performansı ve 4 kat daha fazla yerleşik bellek sunuyor. Blackwell GPU’nun kendisi ise 8192 bit veri yolu arayüzünde 8 TB/s bellek bant genişliği ve 192 GB'a kadar 8 katmanlı HBM3e belleklerle donatılmış. Nvidia, Blackwell GPU'ları tam donanımlı bir platform olarak sunuyor ve dört işlem kalıbı olan bu GPU'lardan ikisini tek bir Grace CPU (72 ARM Neoverse V2 CPU çekirdeği) ile birleştiriyor . Entegre devre üzerindeki GPU’lar hem birbirleriyle hem de Grace CPU ile 900GB/s NVLink arabağlantı protokolüyle bağlanıyor. Nvidia çift GPU ve tek CPU çözümünü kullanan GB200 'ün LLM çıkarım iş yükleri için 30 kat daha fazla performans sunduğunu belirtiyor. Öte yandan firma, H100'e göre maliyeti ve enerji tüketimini 25 kata kadar azalttığını söylüyor. Nvidia açıkçası nesilden nesile büyük bir sıçrama yapıyor diyebiliriz. Öyle ki firmanın ifadelerine göre 1,8 trilyon parametreli bir yapay zeka modelinin eğitilmesi önceki nesilde 8.000 Hopper GPU ve 15 megawatt güç gerektiriyordu. Bugün ise 2.000 Blackwell GPU' su ve sadece 4 megawatt güç gerekiyor. Buradaki önemli gelişmelerden birisi de Nvidia’nın her bir nöron için sekiz yerine dört bit kullanarak hesaplama, bant genişliği ve model boyutunu iki katına çıkaran ikinci nesil Transformer Engine motoru. İkinci önemli fark ise çok sayıda GPU'yu birbirine bağladığınızda ortaya çıkıyor: 576 GPU'nun saniyede 1,8 terabayt çift yönlü bant genişliğiyle birbiriyle konuşmasını sağlayan yeni 5. nesil NVLink. Bunun için Nvidia'nın 50 milyar transistörlü ve kendi yerleşik işlemcisine sahip yepyeni NVLink Switch yongasını üretmesi gerekti. Elbette firmalar bu GPU’ları birkaç adet olarak satın almayacak, bunlardan tek seferde binlerce alınıyor. Bu bağlamda Nvidia, toplam 720 petaflop AI eğitim performansı veya 1.440 petaflop (diğer adıyla 1,4 exaflop) çıkarım için 36 CPU ve 72 GPU'yu tek bir sıvı soğutmalı rafa yerleştiren GB200 NVL72 paketini sunuyor. Şirket, Amazon, Google, Microsoft ve Oracle'ın bulut hizmeti iştiraklerine NVL72’i sunmayı planlıyor. Ek olarak yine şirketlere toplam 288 CPU, 576 GPU, 240 TB bellek ve 11,5 exaflop FP4 hesaplama için sekiz sistemi bir araya getiren DGX Superpod for DGX GB200 çözümü sağlanacak. Nvidia ayrıca HPC'lere yönelik HGX B200 platformunu da duyurdu. Blackwell Tensor Core GPU'ları içeren HGX B200 ve HGX B100 sistemleri önceki nesle kıyasla 15 kata kadar daha fazla çıkarım performansı sağlıyor. Son sözler ve özet Toparlayacak olursak Nvidia, Grace CPU ile Blackwell B100 GPU'nun bir kombinasyonu olan GB200 olmak üzere iki yeni çözüm duyurdu. Bu çözümün 2024 yılında piyasaya sürülmesi hedefleniyor. Blackwell B200 GPU'lar hem mevcut Hopper platformlarıyla hem de veri merkezi üreticilerinin en yeni çözümleriyle uyumlu olarak çalışacak. Her GB200 Grace Blackwell Superchip, iki adet B200 AI GPU ve 72 adet aynı ARM Neoverse V2 çekirdeğine sahip tekil bir Grace CPU ile destekleniyor. Platform 40 PetaFlop hesaplama performansı (INT8) sunacak ve sadece HBM ile 16TB/s bellek bant genişliğinde devasa bir 864 GB bellek havuzu sunacak. Performans açısından GB200 Grace Blackwell Superchip platformu, H200 Grace Hopper platformuna göre yapay zeka performansında 30 kat artış sunacak. Nvidia spesifik çıkış tarihi ve fiyat bilgisi paylaşmadı. Ancak H100 GPU'su çip başına 25.000 ile 40.000 dolar fiyatlarla alıcı buluyordu. Bu çiplere dayanan tüm sistemin maliyeti ise 200.000 dolara kadar çıkabiliyordu. Bu sistemlere olan talep o kadar yüksekti ki bekleme süreleri uzunca bir süre 11 ay seviyelerinde kalmıştı. Blackwell'ler için de talep daha şimdiden yüksek görünüyor. Kaynak: https://www.theverge.com/2024/3/18/24105157/nvidia-blackwell-gpu-b200-ai Kaynak: https://nvidianews.nvidia.com/news/nvidia-blackwell-platform-arrives-to-power-a-new-era-of-computing [/html]

Sıcak Fırsatlarda Tıklananlar

Editörün Seçtiği Fırsatlar

Apple iPhone 11 (128 GB) - Siyah : Amazon.com.tr: Elektronik https://www.amazon.com.tr/dp/B08PQ1JPX9 3 yıl önce paylaşıldı

CAMPER Erkek Pelotas XLF Ayakkabı Bej 45 : Amazon.com.tr: Moda https://www.amazon.com.tr/dp/B005AXCO3I 5 sa. önce paylaşıldı

Yayın Platformları Modelleri ve Fiyatları - n11 https://www.n11.com/urun/tod-12-aylik-super-lig-paketi-web-cep-tablet-452507332-33093701?magaza=tod 10 ay önce paylaşıldı

Daha Fazla

Bu Konudaki Kullanıcılar: Daha Az

2 Misafir - 2 Masaüstü

5 sn

9
Cevap

0
Favori

508
Tıklama

Daha Fazla
İstatistik

Konu İstatistikleri Yükleniyor

Konuya Özel

1 oy

Öne Çıkar

Cevapla

Sayfa: 1

Giriş

Mesaj

Metin Yasir Akpınar

Haber Editörü

5575 Mesaj

Tüm Başarılarını Gör

ANASAYFA GÖRÜNÜMÜNE GEÇ

**Nvidia**, firmayı trilyon dolarlık şirket haline getiren ve dünyanın en değerli üçüncü şirketi konumuna yükselten Hopper H100 GPU'lara kıyasla 5 kata kadar performans artışı sunan yeni nesil Blackwell GPU mimarisini resmi olarak tanıttı. Rakipleri Nvidia’yı yakalamaya çalışırken firma Blackwell tabanlı yeni yeni **Blackwell B200 GPU** ve **GB200 Superchip** ürünlerini de resmen duyurdu. İşte tüm merak edilenler ve detaylar:

Nvidia Blackwell mimarisi ve yeni Blackwell B200

Nvidia, düzenlediği etkinlikte Blackwell kod adlı yeni nesil AI & Tensor Core GPU mimarisini detaylandırdı. Beklendiği gibi Blackwell GPU'ları, Nvidia’nın aynı kalıp üzerinde iki GPU'yu bir araya getirdiği ilk MCM tasarımı olacak.

Blackwell mimarisi TSMC 4NP işlem sürecinde üretilen her bir hesaplama kalıbında toplam 104 Milyar transistör içeriyor. B100 GPU'lar, süper hızlı çipten çipe ara bağlantı sağlayan 10 TB/s yüksek bant genişliğine sahip bir arayüze sahip. Bu GPU'lar aynı paket üzerinde tek bir çip olarak birleştirilirken toplamda 208 milyar transistöre erişiliyor ve tümüyle GPU önbellek bütünlüğü sunuyor.

**Hopper** ile karşılaştırıldığında, Nvidia Blackwell GPU **128 milyar daha fazla transistör**, çip başına 20 petaFlop'a yükseltilmiş **5 kat daha fazla yapay zeka** performansı ve **4 kat daha fazla yerleşik bellek** sunuyor. Blackwell GPU’nun kendisi ise 8192 bit veri yolu arayüzünde 8 TB/s bellek bant genişliği ve 192 GB'a kadar 8 katmanlı HBM3e belleklerle donatılmış.

Nvidia, Blackwell GPU'ları tam donanımlı bir platform olarak sunuyor ve dört işlem kalıbı olan bu **GPU'lardan ikisini tek bir Grace CPU** (72 ARM Neoverse V2 CPU çekirdeği) **ile birleştiriyor**. Entegre devre üzerindeki GPU’lar hem birbirleriyle hem de Grace CPU ile 900GB/s NVLink arabağlantı protokolüyle bağlanıyor.

Nvidia çift GPU ve tek CPU çözümünü kullanan **GB200**'ün **LLM** **çıkarım** iş yükleri için **30 kat daha fazla** **performans** sunduğunu belirtiyor. Öte yandan firma, H100'e göre **maliyeti** ve **enerji** tüketimini 25 **kata kadar azalttığını** söylüyor. Nvidia açıkçası nesilden nesile büyük bir sıçrama yapıyor diyebiliriz. Öyle ki firmanın ifadelerine göre **1,8 trilyon** parametreli bir yapay zeka modelinin eğitilmesi önceki nesilde **8.000 Hopper GPU** ve **15 megawatt** güç gerektiriyordu. Bugün ise **2.000 Blackwell GPU'**su ve sadece **4 megawatt güç** gerekiyor.

Buradaki önemli gelişmelerden birisi de Nvidia’nın **her bir nöron için** **sekiz yerine dört bit** kullanarak hesaplama, bant genişliği ve model boyutunu iki katına çıkaran **ikinci nesil Transformer Engine** motoru. İkinci önemli fark ise çok sayıda GPU'yu birbirine bağladığınızda ortaya çıkıyor: 576 GPU'nun saniyede 1,8 terabayt çift yönlü bant genişliğiyle birbiriyle konuşmasını sağlayan yeni 5. nesil NVLink. Bunun için Nvidia'nın 50 milyar transistörlü ve kendi yerleşik işlemcisine sahip yepyeni NVLink Switch yongasını üretmesi gerekti.

Elbette firmalar bu GPU’ları birkaç adet olarak satın almayacak, bunlardan tek seferde binlerce alınıyor. Bu bağlamda Nvidia, toplam 720 petaflop AI eğitim performansı veya 1.440 petaflop (diğer adıyla 1,4 exaflop) çıkarım için 36 CPU ve 72 GPU'yu tek bir sıvı soğutmalı rafa yerleştiren **GB200 NVL72** paketini sunuyor. Şirket, Amazon, Google, Microsoft ve Oracle'ın bulut hizmeti iştiraklerine NVL72’i sunmayı planlıyor. Ek olarak yine şirketlere toplam 288 CPU, 576 GPU, 240 TB bellek ve 11,5 exaflop FP4 hesaplama için sekiz sistemi bir araya getiren DGX Superpod for DGX GB200 çözümü sağlanacak. Nvidia ayrıca HPC'lere yönelik **HGX B200** platformunu da duyurdu. Blackwell Tensor Core GPU'ları içeren HGX B200 ve HGX B100 sistemleri önceki nesle kıyasla 15 kata kadar daha fazla çıkarım performansı sağlıyor.

Son sözler ve özet

Toparlayacak olursak Nvidia, Grace CPU ile Blackwell B100 GPU'nun bir kombinasyonu olan GB200 olmak üzere iki yeni çözüm duyurdu. Bu çözümün 2024 yılında piyasaya sürülmesi hedefleniyor. Blackwell B200 GPU'lar hem mevcut Hopper platformlarıyla hem de veri merkezi üreticilerinin en yeni çözümleriyle uyumlu olarak çalışacak.

Her GB200 Grace Blackwell Superchip, iki adet B200 AI GPU ve 72 adet aynı ARM Neoverse V2 çekirdeğine sahip tekil bir Grace CPU ile destekleniyor. Platform 40 PetaFlop hesaplama performansı (INT8) sunacak ve sadece HBM ile 16TB/s bellek bant genişliğinde devasa bir 864 GB bellek havuzu sunacak. Performans açısından GB200 Grace Blackwell Superchip platformu, H200 Grace Hopper platformuna göre yapay zeka performansında 30 kat artış sunacak.

Nvidia spesifik çıkış tarihi ve fiyat bilgisi paylaşmadı. Ancak H100 GPU'su çip başına 25.000 ile 40.000 dolar fiyatlarla alıcı buluyordu. Bu çiplere dayanan tüm sistemin maliyeti ise 200.000 dolara kadar çıkabiliyordu. Bu sistemlere olan talep o kadar yüksekti ki bekleme süreleri uzunca bir süre 11 ay seviyelerinde kalmıştı. Blackwell'ler için de talep daha şimdiden yüksek görünüyor.

Kaynak:https://www.theverge.com/2024/3/18/24105157/nvidia-blackwell-gpu-b200-ai
Kaynak:https://nvidianews.nvidia.com/news/nvidia-blackwell-platform-arrives-to-power-a-new-era-of-computing

En Beğenilen Yanıtlar

Tüm Yanıtları Genişlet

Adamlar uçmuş, 5 sene sonra nerede olacağız belli değil

Yorumun Devamı

Murat.Ak

Yüzbaşı

699 Mesaj

Tüm Başarılarını Gör

snakefatih

Yarbay 10+

14496 Mesaj

"konu açıcı": En az 100 konu açtı. 4 seviyeli bu başarı rozetinin 1. seviyesine sahip.

"çok beğenilen": En az 5.000 beğeni aldı. 7 seviyeli bu başarı rozetinin 6. seviyesine sahip.

"müdavim": En az 10.000 mesaj yazdı. 3 seviyeli bu başarı rozetinin 3. seviyesine sahip.

"mekanın sahibi": En az 1.000 farklı günde DH'yi açtı. 1 seviyeli bu başarı rozetinin 1. seviyesine sahip.

Tüm Başarılarını Gör
19 Mart 2024 13:22:15

Mesaj Linkini Kopyala

Şikayet
1
|
|

V4LKyR

Yarbay

9094 Mesaj

Tüm Başarılarını Gör

Boşnak Ağa

kullanıcısına yanıt

symbiat

Yüzbaşı

781 Mesaj

Tüm Başarılarını Gör

Vash The Stampede

Yüzbaşı

739 Mesaj

Tüm Başarılarını Gör

Boşnak Ağa

kullanıcısına yanıt

Sayfa: 1

Benzer içerikler

Ip işlemleri

Bu mesaj IP'si ile atılan mesajları ara Bu kullanıcının son IP'si ile atılan mesajları ara Bu mesaj IP'si ile kullanıcı ara Bu kullanıcının son IP'si ile kullanıcı ara

KAPAT X

%40
Kazan

%2,8
Kazan

%5
Kazan

%6,8
Kazan

%1,6
Kazan

%3,2
Kazan

%5,5
Kazan

%1,2
Kazan

%5
Kazan

%3,2
Kazan

%6,4
Kazan

%2
Kazan

Alışveriş Yaptıkça Para Kazan Harekete Geç »