Üye Girişi
Bağlan Google+ ile Bağlan Facebook ile Bağlan
Yeni Kayıt
Tüm Forumlar
  • Tüm Forumlar
  • Donanım / Hardware
  • Anasayfa Haberleri
  • Bu Konuda
Şimdi Ara

Yeni bir dünya yükseliyor: Yapay zeka mobil ve PC’ye geliyor

Sıcak Fırsatlarda Tıklananlar
Editörün Seçtiği Fırsatlar
Daha Fazla
Bu Konudaki Kullanıcılar: Daha Az
2 Misafir - 2 Masaüstü
5 sn
8
Cevap
0
Favori
267
Tıklama
Daha Fazla
İstatistik
  • Konu İstatistikleri Yükleniyor
Konuya Özel
1 oy
Öne Çıkar
Cevapla
Sayfa: 1
Giriş
Mesaj
  • Yeni bir dünya yükseliyor: Yapay zeka mobil ve PC’ye geliyor
    Bir süredir yapay zeka hakkındaki haberlimiz ile gündemin nabzını tuttuk ve şimdi, çok kısa bir süre önce yeni bir gelişmeye daha tanıklık ettik. Qualcomm, düzenlediği Snapdragon Summit etkinliğinde Snapdragon 8 Gen 3 ve Snapdragon X Elite platformlarını yapay zeka konusunda üstün iddialar ile birlikte tanıttı. Paylaşılan detaylar 2024’ün yapay zeka için yeni bir dünya tasvirine neden oluyor.



    2024’te yapay zekanın yükselişi



    Halihazırda kullandığımız neredeyse tüm üretken yapay zeka modelleri (Buna ChatGPT, DALL-E, Stable Diffusion, Midjourney ve diğerleri dahil) aslında tamamen bulutta çalışan sistemler. Yani doğrudan kullandığımız bir cihazın içinde çalışan üretken yapay zekaya sahip değiliz. Öte yandan Qualcomm, yapay zeka ve makine öğrenimi sistemlerini cihaz üzerinde ve internet bağlantısı olmadan çalıştırma konusuna uzak değil. Firma zaten yıllardır bunu kamera yongaları ile yapıyor. Ancak bunu kamerada yapmakla tam bir araç üzerinde yapmak arasında fark var.



    Ayrıca Bkz.Galaxy S24 serisinin cepte taşınan yapay zeka makinesi olacağı söyleniyor



    Firma, Snapdragon 8 Gen 3 ve X Elite yongalarının bir parçası olarak cihaz üzerinde yapay zekanın nihayet mobil cihazlara ve Windows 11 PC'lere geldiğini duyurdu. Her iki yonga seti de sıfırdan üretken yapay zeka yetenekleri düşünülerek tasarlandı. Qualcomm’un paylaştığı bilgilere göre SD8 gen 3, 10 milyar parametreye ve X Elite ise 13 milyar parametreye kadar çeşitli büyük dil modellerini (LLM), dil görme modellerini (LVM) ve dönüştürücü ağ tabanlı otomatik konuşma tanıma (ASR) modellerini tamamen cihaz üzerinde destekleyebiliyor.



    Devasa AI modelleri cihaz üzerinde çalışacak



    Yeni bir dünya yükseliyor: Yapay zeka mobil ve PC’ye geliyor
    Peki bu milyarlarca parametre ne anlama geliyor? Basitçe, bu kapasite telefonlarda Baidu'nun ERNIE 3.5'inden OpenAI’ın Whisper'ına, Meta'nın Llama 2'sinden Google'ın Gecko'suna kadar her şeyi internet bağlantısı olmadan telefonunuzda veya dizüstü bilgisayarınızda çalıştırabileceğiniz anlamına geliyor. Qualcomm, tüm modelleri aynı anda çalıştırabilmek için heterojen bilgi işleme oldukça önem veriyor. Herhangi bir zamanda birden fazla model çalıştığı için eşzamanlı olarak kullanılan CPU, GPU ve NPU (Sinir İşleme Birimi) bu anlamda öne çıkıyor.



    Yeni bir dünya yükseliyor: Yapay zeka mobil ve PC’ye geliyor
    Bu anlamda Qualcomm AI Engine, Oryon CPU, Adreno GPU ve Hexagon NPU'dan oluşuyor. Bunlar bir araya geldiğinde 45 TOPS'a kadar işlem yapabiliyor ve dizüstü bilgisayarlarda saniyede 30 token, mobil cihazlarda ise saniyede 20 token işlem yapabiliyor. Token, LLM'lerin işleyebileceği/üretebileceği temel metin/veri birimidir.



    Cihaz üzerin yapay zeka ile neler yapılacak?



    Donanım seviyesinde yapay zeka modellerini cihaz üzerinde çalıştırmak artık mümkün. Ancak bu, son kullanıcıya ne gibi bir fayda sağlayacak? Potansiyel kullanımlalanları arasında kurumsal uygulamalar için istem tabanlı bilgisayar kodu, müzik oluşturma, toplantı ve belge özetleme, e-posta hazırlama gibi şeylere bakıyoruz. Veya sadece çok daha güzel fotoğraflar için de kullanılabilir. Çekilen bir fotoğraf/video bütünüyle farklı bir arka plan ile kusursuz bir şekilde birleştirilebilir.



    Yeni bir dünya yükseliyor: Yapay zeka mobil ve PC’ye geliyor
    Bulut yerine öncelikle telefonunuzda veya mobil cihazınızda yaşayan bir yapay zekaya sahip olmak, kullanıcılara mevcut sisteme göre sayısız avantaj sağlayacak. Qualcomm Teknoloji Planlama ve Uç Çözümler Kıdemli Başkan Yardımcısı ve Genel Müdürü Durga Malladi, genel bir modeli (örneğin GPT-4) alan ancak daha doğru ve konuya uygun yanıtlar vermek için şirketin dahili verilerini kullanarak bu modeli ayarlayan kurumsal yapay zekalar gibi, yerel olarak depolanan bir yapay zeka da "zamanla... yavaş yavaş kişiselleşir" diyor. Yani bu “asistan” cihaz üzerinde çalışarak daha akıllı ve daha iyi hale gelecek.



    Dahası, modelin işleme veya bilgi için bulutu sorgulaması gerektiğinde ortaya çıkan doğal gecikme de ortadan kalkacak. Bu nedenle, hem X Elite hem de SD8 gen 3, Stable Diffusion'ı cihaz üzerinde çalıştırmakla kalmıyor, aynı zamanda 0,6 saniyeden daha kısa sürede görüntü üretebiliyor. Bu, mukayese edilemez bir hız. Tüm bunları neden cihaz üzerinde çalıştıralım? Qualcomm kişiselleştirme, gizlilik, güvenlik, enerji tasarrufu, anındalık ve maliyet gibi faydaları öne sürüyor.



    Yeni bir dünya yükseliyor: Yapay zeka mobil ve PC’ye geliyor
    Öte yandan yazmak yerine modellere konuşarak etkileşim kurma kapasitesi tüketiciler için en büyük avantaj olabilir. “Cihazlarla arayüz oluşturmaya başladığımız çok benzersiz bir yol var ve ses, diğer her şeyin yanı sıra bu cihazlara yönelik çok daha doğal bir arayüz haline geliyor. Bunun, cihazlarla daha önce yaptığımızdan çok farklı bir şekilde etkileşime girmeye başladığımız yenilikçi bir an olma potansiyeline sahip olduğuna inanıyoruz.” diyor Malladi.



    Ancak Qualcomm’un burada durması elbette beklenmemeli. Sadece Qualcomm da değil. MediaTek, Apple, Intel, AMD, Nvidia ve hatta kendi yapay zeka çiplerini geliştirmek isteyen Microsoft, OpenAI ve Amazon gibi devler bu alana odaklanmış durumda. Mesela Microsoft bu alanın öncülerinde. Qualcomm'un etkinliğine katılan Microsoft CEO'su Satya Nadella, Copilot'un Windows'un geleceği için anahtar olacağını söylüyor. "Windows ilk kez bir araya geldiğinde Başlat düğmesi vardı, Copilot da Başlat düğmesi gibi."



    Otomobiller de işin içinde



    Yeni bir dünya yükseliyor: Yapay zeka mobil ve PC’ye geliyor
    En nihayetinde sürücüsüz araçları konuşuyoruz ve bu araçlar yolculuk esnasında sadece bir saniyede bile yüzbinlerce veri topluyor (kameralar, IR sensörler, radar, lidar, kullanıcının girdileri vs.) ve bunların araç içinde işlenebilmesi için Qualcomm, şimdiden 30 ila 60 milyar parametreden bahsediyor. Qualcomm'un tahminlerine göre, nihayetinde bu cihaz üstü modeller 100 milyar veya daha fazla parametreye yaklaşabilir.



    2024 yılında hem donanım tarafında hem de yapay zeka tarafında çok daha büyük gelişmeler göreceğiz. Genel yapay zeka modellerinin yerlerine kişisel yapay zeka modellerinin emarelerini göreceğiz. Tüm bunlar ise bana "Her" filmini anımsatıyor.




    Kaynak:https://www.pcmag.com/news/qualcomm-seeks-to-put-ai-in-all-the-things-including-your-next-phone-and
    Kaynak:https://www.engadget.com/qualcomm-brings-on-device-ai-to-mobile-and-pc-190030938.html







  • Bu yapay zeka başımıza bi sürü iş açacak ya hadi hayırlısı

    < Bu ileti Android uygulamasından atıldı >

  • Reklam sadece, bu hızlar AI için patates belki hesap makinesi kadar hızlı olabilir.

    Adam 100x h100 kuruyor(hani şu tanesi 30.000$ olan, tabi bulabilirseniz) bunlar tırnak kadar şeyle AI powerden bahsediyor. Yeni bir dünya yükseliyor: Yapay zeka mobil ve PC’ye geliyor 


    < Bu mesaj bu kişi tarafından değiştirildi Seto-Kaiba -- 25 Ekim 2023; 19:18:12 >

  • Basit LLM'ler çalışabilir belki 13 milyar parametreli modelde detaylı bir sorguyu ne kadar sürede işleyecek belirtmiyor. İşlemesine işler de 1 saat bekletecekse anlamı yok.

    Öte yandan 100 tane gpu'ya da gerek yok, çünkü onlar aynı anda yüzlerce kişinin sorgusuna hizmet etmek için yapılan sistemler. Tek kişiye hizmet edecek bir sistemde

    o kadar abartı güce de gerek yok.


    < Bu mesaj bu kişi tarafından değiştirildi Vain -- 25 Ekim 2023; 19:30:7 >

  • doğal olarak AL dünyası artık.

  • Terminatör Geliyor ! 😆

    < Bu ileti mobil sürüm kullanılarak atıldı >
  • Bakalim bu yapay zeka isleri nereye kadar gidecek

    < Bu ileti Android uygulamasından atıldı >
    • 
Sayfa: 1

Benzer içerikler

- x
Bildirim
mesajınız kopyalandı (ctrl+v) yapıştırmak istediğiniz yere yapıştırabilirsiniz.
Hizmet kalitesi için çerezleri kullanabiliriz. DH’ye girerek kullanım izni vermiş sayılırsınız.
Anladım Veri Politikamız