Şimdi Ara

AMD’nin Instinct MI300X kartının güç tüketimi şaşırttı: 1KW sınırına yaklaşıyoruz!

Daha Fazla
Bu Konudaki Kullanıcılar: Daha Az
1 Misafir - 1 Masaüstü
5 sn
12
Cevap
0
Favori
444
Tıklama
Daha Fazla
İstatistik
  • Konu İstatistikleri Yükleniyor
1 oy
Öne Çıkar
Sayfa: 1
Giriş
Mesaj
  • AMD’nin Instinct MI300X kartının güç tüketimi şaşırttı: 1KW sınırına yaklaşıyoruz!
    Teknolojik gelişmeler yaşandıkça ve üretim teknolojisindeki ilerlemelere daha küçük transistörlerin üretilmesi sayesinde bilgisayar donanımlarının daha az güç tüketeceğini düşünürdük. Ancak son yıllar bunun olmadığını gösteriyor. AMD’nin birkaç gün önce tanıttığı Instinct MI300X GPU’su da tam olarak bu durumu ortaya koyuyor. Yapay zeka iş yükleri için hazırlanan Instinct MI300X, 1 KW güç tüketim sınırına yaklaşıyor.



    AMD, 1 KW sınırına doğru ilerliyor



    Nvidia H100 GPU, 700W'a varan nominal güç tüketimiyle piyasaya sürüldüğünden beri en çok güç tüketen veri merkezi yongası olmuştu. Ancak bu durum daha da fazla güç tüketecek olan Instinct MI300X ile değişiyor. AMD'nin Instinct MI300X GPU'su piyasaya çıktığında 1KW'a yakın güç tüketerek en fazla güç tüketen yonga olacak.



    AMD’nin Instinct MI300X kartının güç tüketimi şaşırttı: 1KW sınırına yaklaşıyoruz!
    AMD’nin belgelerine göre Instinct MI300X OAM GPU hızlandırıcısı 750W güç tüketimine sahip olacak. Karşılaştırma yapmak gerekirse, CDNA 2 GPU mimarisini temel alan Instinct MI250X GPU'ları 500 ila 560 Watt arasında güç tüketiyordu. Yani güç gereksinimleri tek bir nesilde yüzde 34-50 oranında artmış durumda. Öte yandan çipin tasarımı ve sunduğu performans göz önüne alındığında bu güç artışı beklenen bir durum. Çip, yapay zeka iş yüklerinde 8 kat performans artışı sağlarken 5 kat daha verimli çalışıyor.



    Önceki nesle göre dev iyileşmeler var



    AMD Instinct MI300X GPU'nun MI250X'te yer alan 220 işlem birimine karşılık 304 CDNA 3 işlem birimine sahip olması bekleniyor. Bu da yüzde 38'lik bir artış anlamına geliyor. Ayrıca çip, 192 GB kapasitede HBM3 bellek barındırıyor. Bu, MI250X tarafından kullanılan 128 GB HBM2e bellekten yüzde 50 daha fazla ve HBM3'ten bahsettiğimiz için çok daha yüksek aktarım hızları da göreceğiz.



    Ayrıca Bkz.AMD yeni Instinct MI300 hızlandırıcısını duyurdu



    Instinct MI300X GPU'nun ve devasa büyüklükteki 192 GB VRAM'in en büyük avantajı, büyük dil modellerini rakiplerinden daha az GPU ile çalıştırabilmesi olacak. Instinct MI300X, rakiplerinin 80 GB'lık H100 çiplerinden daha az GPU ile 540 Milyar parametreye kadar LLM çalıştırabiliyor.



    "Nükleer reaktör gerekecek"



    AMD’nin Instinct MI300X kartının güç tüketimi şaşırttı: 1KW sınırına yaklaşıyoruz!
    GPU'lar ve HPC hızlandırıcıları giderek daha güçlü hale geldikçe bu güç gereksinimleri de artmaya devam ediyor. Yakın tarihli bir Gigabyte Sunucu yol haritası, CPU'ların, GPU'ların ve APU'ların 1000W güç bariyerine yaklaşacağını gösteriyordu. AMD kesinlikle en fazla güç tüketen yongaya sahip ancak kırmızı ekip aynı zamanda güç gereksinimlerini önemli ölçüde azaltmalarına olanak tanıyan bir dizi yonga ve paketleme teknolojisine de yatırım yaptı.



    ISSCC 2023 konferansı sırasında AMD'nin CEO'su Dr. Lisa Su, yeni tasarımların benimsenmemesi halinde Zettascale bilişimin enerji talebini karşılamak için bir "Nükleer Reaktöre" ihtiyaç duyacağını ve bunun sadece bir sistem için geçerli olduğunu belirtti. Bununla birlikte, MI300X GPU'lar, özellikle PCIe form faktörlerinde daha düşük güç gereksinimleri ile muhafazakar varyantlarda da mevcut olacak. Bunlar henüz duyurulmadı ancak 2024 yılına kadar gelmeleri bekleniyor.




    Kaynak:https://wccftech.com/amd-pushes-gpu-power-closer-to-1kw-with-its-instinct-mi300x-gpu-consumes-750w/







  • aslinda chipler enerji tuketmiyorlar, havadaki statik elektrik ile calisiyorlar, enerji sirketleri para kazanmak icin dokumhanelerde chiplrin icinde resistans koydurarak etrafi isitmalarini sagliyorlar. dokumhanelerle enerji sirketlerinin ortak oyunu bu. ( bir kerede ben yapiyim dedim nasil oluyormus :))) tamamen ironidir, kimse ciddiye alip cevap yazmasin)
  • aslinda chipler enerji tuketmiyorlar, havadaki statik elektrik ile calisiyorlar, enerji sirketleri para kazanmak icin dokumhanelerde chiplrin icinde resistans koydurarak etrafi isitmalarini sagliyorlar. dokumhanelerle enerji sirketlerinin ortak oyunu bu. ( bir kerede ben yapiyim dedim nasil oluyormus :))) tamamen ironidir, kimse ciddiye alip cevap yazmasin)

  • Güç tüketimini kimse umursamıyor çünkü. Hiçkimse veya hiçbir şirket güç tüketimini birinci sıraya koymaz. En öncelikli kriter performanstır. Kimse gidipte daha az harcıyor diye i5 almıyor, parası yetmiyor yada diğer bileşenlere daha fazla bütçe ayırmak istediği için i5 alıyor. Yoksa i7 nin güç tüketimi kimsenin umrunda değil

    < Bu ileti iOS uygulamasından atıldı >
  • 2500 watt psu larda kampanya var:)

  • Ahmet DOĞAN kullanıcısına yanıt
    Kendi adına konuş... Ciddi işlem gücü gerektiren sunucularda toplam işletme maliyetinde elektrik önemli bir gider.

  • darkaura kullanıcısına yanıt
    Yok gercek sandik bir iyiki belirtissin sonunda :DDDD

  • NVIDIA'nın H100'ü de yaklaşık 700W çekiyor, şaşılacak bir durum değil yani. CDNA 3 mimarili 220 CU birimli 14080 akış işlemcili, MI300X'ün oyun kartı GPU'su olmadığı düşünülürse, 1 KW'lık güce yaklaşan sarfiyatı olsa bile, bu tür donanımlar için normal denilir.


    Bunlar AI/HPC sistemleri için kullanılıyor, 96 CU'lu 6144 akış işlemcili 7900 XTX'in bazı özel modelleri bile, kolayca 4090 seviyesine yakın 421W'a ulaşabiliyor. Rekor yine 3090 Ti'da, 3090 Ti'un güç tüketim rekorunun kolayca kırılacağı da mümkün görünmüyor, tabi 4090 Ti çıkmadığı için.


    MI250X'e göre yapay zeka iş yüklerinde, 8 kat performans artışı sağlarken 5 kat daha verimli çalışıyor. Bu tür donanımları kullanan şirketlerin, güç tüketimi umurunda olmaz, hız verimlilik oranı ön plandadır. Ayrıca oyunlarda GPU'nun tüm akış işlemcileri yüke her zaman girmeyebilir, AI uygulamaları ise benchmark gibi GPU'yu full kullanır.




    AMD’nin Instinct MI300X kartının güç tüketimi şaşırttı: 1KW sınırına yaklaşıyoruz!



    < Bu mesaj bu kişi tarafından değiştirildi Cpt. Miller -- 17 Haziran 2023; 10:17:9 >




  • Fearless_tr kullanıcısına yanıt

    gercek zanneden bir mal illaki cikiyor. sonra onlarin cevaplariyla ugras. turkiyede yasadigim bunca yilda ogrendigim en onemli ders: insanlarin aptalligini asla kucumseme.

  • ne kadar güç tükettiği değil !
    ne kadar veri işleye bildiği önemli !
    örneğin şu an sap gibi şu baktığın masa üstü ekranı bile
    durduk yere 250W tüketiyor !
    dünyaya ne 1 gram faydası var
    nede 1 kuruş faydası var
    işi gücü elektrik faturasını artırmak
    işe bu açıdan bakın
    yani 1000 pc gücünde olsa
    1w bile tüketmeyen bir sistem var karşınızda !

    ama burada yazılanları okumayanlardan
    bu oyunlarda kaç fps falan veriyor gibi sorularını soracaktır.



    < Bu mesaj bu kişi tarafından değiştirildi ProjectMan -- 17 Haziran 2023; 11:40:43 >
  • Teknoloji 50 yıl geriye doğru gidiyor 50 yıl sonra eve santral kurduracaklar birilerin buna dur demesi şart


    Bu teknolojiye izin veren çevreci ulusal kuruluşların UNEP, WWF, Greenpeace, IUCN, TEMA ...




    < Bu mesaj bu kişi tarafından değiştirildi bjkyener -- 17 Haziran 2023; 11:49:45 >
  • temel mesele verimliliktir 1kW karşılığında diğer kartlara göre daha yüksek performans veriyorsa isterse 10kW olsun farketmez. Millet işlem gücü yetmediği için bu kartlardan 2000 tanesiyle cluster yapıyor artık 200tanesiyle yaparlar. En kötü alandan tasarruf

  • 
Sayfa: 1
- x
Bildirim
mesajınız kopyalandı (ctrl+v) yapıştırmak istediğiniz yere yapıştırabilirsiniz.