Intel, yapay zeka için dünyanın en büyük nöromorfik sistemini kuruyor

Toplam 1,15 milyar nörona sahip Hala Point sistemi, her biri bir milyon nöronu simüle edebilen 1152 Loihi 2 işlemci barındırıyor. 2021’in sonlarında tanıtılan Loihi 2 nöromorfik çipi, Intel 4 süreci üzerine inşa ediliyor ve her bir çip 2,3 milyar transistörü içeriyor. Bu transistörler ise sadece 31mm2 alana sığdırılıyor. Hala Point sistemi, sadece 6 raf birimi alan veya sadece bir mikrodalga fırın boyutunda. Sistemin güç tüketimi de kendisine göre küçük: 2,6 kW.

Hala Point, Sandia'da Intel'in birinci nesil Loihi çiplerine dayanan eski bir Intel nöromorfik sistemi olan Pohoiki Springs'in yerini alırken on kat daha fazla nöron ve genel olarak 12 kat daha fazla performans sunacak.

Hala Point ne yapıyor?

Hala Point, geleneksel derin sinir ağlarını çalıştırırken watt başına saniyede 15 trilyon 8 bit işlemi (TOPS/W) aşan bir verimlilikle saniyede 20 katrilyon işlemi veya 20 petaops'u destekleyebiliyor. Bu işlem gücü, grafik işlem birimleri (GPU) ve merkezi işlem birimleri (CPU) üzerine inşa edilen mimarilerin ulaştığı seviyelerle örtüşüyor.

Ayrıca Bkz.AMD iki yeni Ryzen 8000 grafiksiz masa üstü işlemcisi duyurdu

Sandia Ulusal Laboratuvarları'ndaki araştırmacılar Hala Point'i gelişmiş beyin ölçeğinde bilgi işlem araştırmaları için kullanmayı planlıyor. Kuruluş, cihaz fiziği, bilgisayar mimarisi, bilgisayar bilimi ve bilişim alanlarındaki bilimsel hesaplama sorunlarını çözmeye odaklanacak. Bununla birlikte sistemin en ilginç kullanım durumu, sinir ağlarının anında ek verilerle güçlendirilmesini sağlamak için nöromorfik hesaplamayı kullanabilme potansiyeli. Bilindiği üzere mevcut LLM’ler yani ChatGPT ve Gemini gibi yapay zekalara güç veren modeller yeni verilerle birlikte sürekli olarak “yeniden” eğitiliyorlar. Bu da haliyle yüksek bir maliyet getiriyor. Hala Point ise sistemin yeniden eğitilme ihtiyacını ortadan kaldırmayı amaçlıyor. Bunu bir kitabın sonuna bir sayfa eklemek gibi düşünebilirsiniz.

Peki bu neden önemli?

Günümüzde yapay zeka modelleri için artık trilyonlarca parametrelerden bahsediyoruz. Bu da yapay zekada ürkütücü sürdürülebilirlik zorluklarını ortaya çıkararak donanım mimarisinin en alt seviyelerinde inovasyon ihtiyacı doğurmuş durumda. Nöromorfik hesaplama, veri hareketini en aza indirmek için bellek ve hesaplamayı son derece ayrıntılı paralellikle entegre eden sinirbilim içgörülerinden yararlanan temelde yeni bir yaklaşımı temsil ediyor. Ancak şu anda Hala Point, gelecekteki ticari sistemlerin yeteneklerini geliştirecek bir araştırma prototipi konumunda.

Halo Point’in detayları

Hala Point, Intel 4 işlem nodunda üretilen 1.152 Loihi 2 işlemciyi mikrodalga fırın büyüklüğünde altı raflı bir veri merkezi kasasında paketliyor. Sistem, 140.544 nöromorfik işlem çekirdeği üzerine dağıtılmış 1,15 milyar nöron ve 128 milyar sinapsı desteklerken 2.6kW güç tüketiyor. Ayrıca yardımcı hesaplamalar için 2.300'den fazla gömülü x86 işlemcisi içeriyor. Hala Point işleme, bellek ve iletişim kanallarını paralelleştirilmiş bir yapıda birleştirerek saniyede toplam 16 petabayt (PB/s) bellek bant genişliği, 3,5 PB/s çekirdek içi iletişim bant genişliği ve saniyede 5 terabayt (TB/s) çipler arası bant genişliği sunuyor. Sistem saniyede 380 trilyondan fazla 8-bit sinaps ve 240 trilyondan fazla nöron işlemi gerçekleştirebiliyor.

Bu sistem spiking sinir ağı modellerinde 1,15 milyar nöronluk tam kapasitesi ile bir insan beyninden 20 kat daha fazla hız vadediyor. Hala Point sinirbilim modellemesi için tasarlanmamış olsa da, nöron kapasitesi kabaca bir baykuş beyninin korteksine eşdeğer durumda. Intel’e göre Loihi tabanlı sistemler, geleneksel CPU ve GPU mimarilerinden 50 kat daha yüksek hızlarda 100 kat daha az enerji kullanarak yapay zeka çıkarımı yapabilir ve optimizasyon problemlerini çözebilir.