Yapay zeka evreni genişlemeye devam ederken son dönemde “AI PC” şeklinde bir terim türedi. Intel, AMD, Apple ve Qualcomm dahil olmak üzere, artık tüm devler donanımlarına özel yapay zeka birimleri (NPU) dahil etmeye başladı. Haliyle donanım tek başına yeterli değil. Bu donanımları kullanabilmek için yazılıma ve farklı uygulamalara ihtiyaç var. İşte konuyla ilgili detaylar.
Yapay Zeka (AI) PC Nedir?Yakında alacağınız bir bilgisayarda AI PC, NPU, TOPS, Copilot+ gibi farklı isimlendirmelerle birlikte farklı şekilde isimlendirilmiş CPU serileri göreceksiniz. Biz de şimdiden sizi “yapay zeka bilgisayar” dünyasına hazırlayalım dedik. Bu tür bir bilgisayar alırken nelere dikkat etmeli, donanımsal olarak nelere bakmalısınız?Bu bilgisayarları yapay zeka ve makine öğrenimi görevlerini yerine getirmek üzere doğru donanım ve yazılım çözümleriyle desteklenen, bazı ekstra özellikler içeren kişisel bir bilgisayar olarak düşünün. Tüm mesele bazı durumlarda yoğun olan yapay zeka ve makine öğrenimi iş yüklerini hızlandırmak, gereksinimleri karşılayabilmek.Peki yapay zeka iş yüklerinden kastımız ne? Stable Diffusion gibi üretken yapay zeka yazılımları, yerel dil modelleriyle desteklenen akıllı sohbet robotları, kapsamlı veri analizi, yapay zeka modellerinin eğitimi ve karmaşık simülasyonlar ile sofistike yapay zeka odaklı uygulamaların çalıştırılması gibi geniş bir iş yükü yelpazesi var.Şimdiye kadar hep sistemlere çoklu işlem gücü kazandıran güçlü işlemciler (CPU) ve grafiksel görevlerin yanı sıra birçok alanda işleri hızlandıran ekran kartlarından (GPU) bahsettik. Ayrıca RAM ve hızlı depolama seçenekleri de önemliydi. Yeni nesil bilgisayarlar ise tamamen yeni bir şeye sahip: Yapay zeka görevlerini mümkün olduğunca hızlı şekilde çalıştırmak üzere özel olarak tasarlanmış Nöral İşlem Birimleri (Neural Processing Unit, NPU).Bir AI PC’yi tanımlamak için bir araya gelen Intel ve Microsoft, yapay zeka bilgisayarın CPU, GPU ve NPU’ya ihtiyaç duyduğunu, ayrıca bu PC’lerdeki klavyede fiziksel bir Microsoft Copilot tuşunun sahip olması gerektiğine karar verdi. Böylelikle Windows 11’e entegre olarak gelen yapay zeka robotu Copilot hızlıca çalıştırılabilecek.Basının ve sektörün büyük bir kısmı, Intel’in Core Ultra “Meteor Lake” işlemcilerini sergilediği bir AI PC geliştirici programında paylaştığı Microsoft’un tanımı etrafında birleşmiş görünüyor. Bu tanımın üç gereksinimi var:
Bilgisayarların En yeni NPU, CPU ve GPU’ları içermesi.
Microsoft Copilot ile birlikte sunulması.
Klavyesinde Copilot tuşu bulunması.
NPU’ları tüm detaylarıyla daha önce ele almıştık. Özel çiplerin belli bir performans seviyesini karşılaması gerekiyor ki, o çipe sahip olan bilgisayarlar “yapay zeka PC” klasmanına dahil olabilsin. Amaç ise yapay zeka görevlerini yerine getirme konusunda daha hızlı, daha enerji verimli ve verilerin işlenmek üzere bulut tabanlı AI sunucularına gönderilmesi ihtiyacını ortadan kaldıran sistemler oluşturmak. Bu yaklaşım ile sistemlerin internet bağlantısından bağımsız olarak çalışabilmesi isteniyor ve verilerin yerel olarak bilgisayarda saklanarak güvenirliğin artırılması hedefleniyor.Donanımda Yapay Zeka Desteği: NPU Nedir, Ne İşe Yarar?Yapay zeka özellikli bir CPU’da aranması gereken şey Nöral İşlem Birimi (NPU). İşlemcilere entegre edilen bu donanım, ana işlemci çekirdeklerinin ve grafik yongalarının yükünü hafifleterek yapay zeka iş yüklerinin üstesinden gelmek için özel olarak tasarlandı. Günümüzde Intel, AMD, Apple ve Qualcomm gibi şirketler yapay zeka destekli işlemciler sunuyor. Şu anda AI performansı açısından bakabileceğimiz tek şey “TOPS” değerleri.Başlamadan önce mevcuttaki AI PC’lerde bulunan işlemcilerin detaylarını kısaca ele alalım, sonra detaylara geçelim:
Apple M4: macOS kullanıcıları için en iyisi. macOS için tasarlanmış ve optimize edilmiş, rekabetçi performans ve uzun pil ömrü.
AMD Ryzen AI 300 (Strix Point): Oyuncular için ideal. Zen 5 mimarisi ise gelişmiş hesaplama performansı. Güçlü bir entegre GPU ile eşleştirilmiş yüksek performanslı çok iş parçacıklı CPU, onu oyun ve diğer yoğun görevler için ideal hale getiriyor.
Intel Core Ultra 200V (Lunar Lake): Dengeli performans. Performans ve pil verimliliği arasında iyi bir denge sunuyor. Oyun (özellikle E-spor oyunları), üretkenlik görevleri, medya ve genel web için uygun.
Qualcomm Snapdragon X Elite: Pil açısından en verimli Windows AI işlemcisi. Windows Copilot Plus’ı yerel olarak destekleyen ilk işlemci. Genel üretkenlik, web taraması ve medya içerikleri için harika.
IntelIntel’in yapay zeka destekli ilk Core Ultra çipleri “Meteor Lake” kod adını taşıyordu. Başlangıç olarak bu işlemcilerde yer alan ilk nesil NPU’lar 10 TOPS işlem performansı sunuyordu. Sonrasında ise baştan aşağı yenilenen “Lunar Lake” mimarisi tanıtıldı. Mobil işlemciler, yapay zeka iş yükleri için 48 TOPS performans sunan yeni nöral işlem birimi (NPU) ile birlikte sunulacak. Böylelikle Microsoft’un yeni nesil yapay zeka bilgisayarlar için şart koştuğu 40 TOPS NPU gereksinimi rahatlıkla kolaylıkla karşılanmış oldu. 48 TOPS sadece NPU’dan gelen güç.Aslında Lunar Lake platformu çok daha fazla AI performansına sahip: CPU ve iGPU’yu hesaba kattığımızda toplamda 120 TOPS seviyesinde performans vaat ediliyor. Core Ultra 200V Serisinde Core Ultra 9 288V, Core Ultra 7 268V ve Core Ultra 5 238V gibi farklı modeller yer alacak. İşte yeni mimariye ait bazı detaylar:
Birleşik Bellek Mimarisi: LPDDR5 RAM, artık Intel Lunar Lake işlemcilerde SoC tasarımının bir parçası haline geliyor. Bu sayede RAM ve işlemci arasında veri aktarımı yapılırken daha yüksek bant genişliği ve daha düşük güç tüketimi sağlanıyor.
3nm Süreci: 3nm süreci ile Intel, Lunar Lake’e daha fazla transistör yerleştirerek performansı ve güç verimliliğini artırıyor.
Entegre NPU: Lunar Lake SoC, INT8 hassasiyetinde 40 TOPS’a (saniyede Tera İşlem) kadar yapay zeka hesaplama yeteneği sağlayan altı NPU hesaplama motoru kullanmakta.
Hyperthreading Devre Dışı: Sekiz çekirdeğin tamamında (dört performans çekirdeği ve dört verimlilik çekirdeği) performans yerine daha iyi pil ömrü için Hyper-Threading teknolojisi devre dışı bırakıldı.
AMD’nin Ryzen 8040 “Hawk Point” Serisi işlemcileri, ilk olarak 16 TOPS’luk performans sunan bir nöral işlem birimi taşıyordu. Kırmızı ekip, o zamanlar APU’ların bazı yapay zeka iş yüklerinde performansı 1.4 kata kadar artırdığını iddia ediyordu. Şirket daha sonra XDNA 2 mimarisine ve 50 TOPS performansa sahip Ryzen AI 300 Serisi mobil işlemcilerini piyasaya sürdü. 50 TOPS’luk performans seviyesi, Qualcomm’un gelecek vaat eden Snapdragon X Elite’i de dahil olmak üzere Windows PC’lere yönelik diğer tüm çipleri geride bırakıyor. Başka bir deyişle, Microsoft’un yeni nesil AI bilgisayarları için 40 TOPS gereksinimini kolayca aşarak Copilot öğelerinin yerel olarak çalışmasına olanak tanıyor. En azından bu kelimeleri kaleme aldığımız sırada durum böyleydi. Ancak AI çip pazarında rekabet ateşi hiç sönmeyecek. Hemen aşağıda AMD’nin yeni işlemcilerine ait detayları bulabilirsiniz:
Zen 5 Mikro Mimarisi: IPC ve genel performansta önemli iyileştirmeler sağlayan yeni Zen mimarisi.
Entegre RDNA 3.5 Grafikler: Zaten güçlü olan önceki RDNA 3 mimarisinin üzerinde iyileştirmeler yapıldı, böylelikle hem grafik hem de yapay zeka ile ilgili görevlerde performans katkısı sağlandı.
XDNA 2 NPU: Bir SoC üzerindeki en yüksek performanslı NPU. INT8 hassasiyetinde 50 TOPS’a kadar çıkabiliyor ve 40 TOPS gereksinimi olan Copilot+ için fazlasıyla yeterli.
Block FP16: Performanstan çok az ödün vererek daha yüksek hassasiyetli yapay zeka iş yükleri.
Qualcomm, 45 TOPS performans sunan entegre Hexagon NPU’lara sahip Snapdragon X Elite ve Snapdragon X Plus yongalarıyla daha erken sahneye çıktı. Piyasaya sürülen ilk Microsoft Copilot+ bilgisayarlar Snapdragon X işlemcilerle birlikte geliyor.Böylelikle ARM mimarili işlemciler dizüstü bilgisayarda daha fazla yer bulmaya başlayacak. Snapdragon X işlemciler, çoğu Windows bilgisayarda bulunan normal CISC (Karmaşık Komut Seti Hesaplama) yerine RISC (Azaltılmış Komut Seti Hesaplama) tasarım felsefesini benimsiyor. Güçlü bir SoC ile eşleştirilmiş RISC mimarisi, Qualcomm’un işlemcilerini aynı yüksek performanslı RISC işlemciler olan Apple’ın M Serisi yongalarıyla karşı karşıya getiriyor.AppleApple aslında yıllardır çiplerinde NPU kullanıyordu, yani bu yeni bir şey değil. Ancak tüm markaların yapay zeka süreçlerini benimsemesi, yapay zeka araçlarının yaygınlaşmasıyla birlikte yeni bir furya başladı. Bu arada Apple’ın M3 işlemcileri 18 TOPS NPU performansı sunuyor, lakin Apple cephesinin Microsoft gereksinimleriyle ve Windows işletim sistemiyle bir ilişkisi yok.Apple M3 Max ve NVIDIA GPU Yapay Zeka Karşılaştırması – CES 2024 #41Diğer yandan Apple’ın M4 çipi 3nm üretim teknolojisi, çipe entegre bellek, çiplet tasarımı ve hibrit mimari gibi M3 ile benzer teknolojiler kullanıyor. En son iPad Pro’ya entegre edilen M4, 16 çekirdeğe ve 35 TOPS performansa sahip.TOPS Nedir? Yapay Zeka Performansı Nasıl Ölçülüyor?Geçmişte donanımların ürettiği teraflop (TFLOP) performansına bazen değiniyorduk. Tam olarak aynı olmasa da yapay zeka performansı benzer şekilde “TOPS” ile ifade ediliyor. Açılımı Tera Operations Per Second (Saniyede Tera İşlem) şeklinde. Buradaki tera, trilyonlar anlamına geliyor.Bu arada hatırlatmadan geçmeyelim, bu performans sadece işlemcilerin içindeki yer alan NPU’lar ile üretilmeyecek. Bazı iGPU’lar (entegre GPU) ve harici GPU’lar da ciddi oranlarda yapay zeka performansı sunabiliyor. Örneğin GeForce RTX 4090, toplamda yaklaşık 1.321 TOPS gibi bir değere ulaşabiliyor.Bir bilgisayarın performansını ölçmek için sentetik kıyaslama sonuçları veya gerçek dünya sonuçlarına bakıyorduk. Yapay zeka bilgisayarları ve yeni NPU’lar ile performansı değerlendirmek daha soyut bir hal alıyor.“TOPS” ifadesi NPU performansını ölçmenin tek yolu olmayabilir, ancak tüketiciler şimdilik buna dikkat etmeli. TOPS değeri, alıcılara yapay zeka bilgisayarlarının belirli görevleri yerine getirebilmesini istiyorlarsa nelere dikkat etmeleri gerektiği konusunda bir fikir verebilir.Sadece TOPS Değerlerine Bakmamak GerekiyorAncak ham TOPS sayıları her şey değildir. NPU dediğimiz birimin önceliği yapay zekaya özgü görevleri yerine getirmek. Haliyle bilgisayarın başında 7/24 AI iş yükleriyle uğraşmıyoruz, bu nedenle günlük bilgi işlem ihtiyaçlarınızı karşılayabilecek bir işlemci isteyeceksiniz. NPU performansının yanı sıra, tıpkı eskiden olduğu gibi tek çekirdek ve çoklu çekirdek performansını iyi dengeleyen işlemcilere bakmaya devam edin. Intel ve AMD, yapay zeka yeteneklerinin yanı sıra güçlü genel bilgi işlem performansı sunan sağlam seçenekler sunuyor.Masaüstü PlatformAçıkçası “AI PC” denildiğinde ilk olarak dizüstü bilgisayarlara öncelik verildi. Masaüstü CPU’lar ise biraz arkadan gelecek. CES 2024’te duyurulan AMD Ryzen 8000G işlemcilerle birlikte NPU dediğimiz birimler ilk kez masaüstü platforma gelmişti. Ryzen 8000G, yapay zeka iş yüklerinde performansı artırmak için entegre yüksek performanslı Sinir İşleme Birimi (Neural Processing Unit-NPU) motoruna sahip dünyanın ilk masaüstü APU’ları oldu.Diğer yandan Intel, “Arrow Lake” veya “Arrow Lake Refresh” kod adlı masaüstü işlemcilerini entegre yapay zeka çipleriyle piyasaya sürmeye hazırlanıyor. 2024 yılında piyasaya sürülmesi beklenen CPU’lar muhtemelen NPU ile birlikte gelecek. Gelmese bile, yeni Refresh yongalar mutlaka NPU ile donatılacak.Yapay zeka konusu sizin için önemliyse mutlaka NVIDIA markalı bir GPU tercih etmelisiniz. Bildiğiniz üzere yeşil takım, RTX 2000 Serisinden beri grafik işlemcilerinde Tensor Çekirdekleri kullanıyor. Yani RTX 2060’tan RTX 4090’a kadar olan RTX yongalar, tüketici sınıfı donanımlarda yapay zeka performansıyla ön plana çıkıyor. NVIDIA’yı diğerlerinden ayıran şey, CUDA ekosistemi ve Tensor gibi yapay zeka iş yükleri için yazılım desteği ve optimizasyon açısından büyük bir avantaj sağlayan teknolojileri.Tensor ve Ray Tracing Çekirdeği Nedir, Ne İşe Yarar?AMD de RDNA mimarisiyle birlikte önemli adımlar atmaya başladı. Bu GPU’lar, yerel yapay zeka iş yükleri ve büyük ölçekli makine öğrenimi görevleri için rekabetçi performans sunan yapay zeka hızlandırması düşünülerek tasarlandı. Henüz NVIDIA ile aynı seviyede yazılım ekosistemine sahip olmasalar da, özellikle çok fazla performanstan ödün vermeden daha bütçe dostu bir seçenek arıyorsanız AMD ekran kartlarına da bakabilirsiniz. Ancak bu konuda tartışmasız olarak listenin ilk başına NVIDIA yazılır.Harici GPU pazarında yeni bir oyuncu olan Intel de Arc GPU’ları ile ses getiriyor. Bu özellikle ilgi çekici çünkü Intel’in Core Ultra işlemcilerinde gelişmiş entegre grafik yongaları yer alıyor. Böylelikle yapay zeka işlerini sorunsuzca halledebilmek için entegre çalışan gelişmiş CPU-GPU kombinasyonu sunuyorlar. Mavililer ayrıca yazılım tarafında da yenilikler getirmeye çalışıyor. AI Playground uygulaması, yeni başlayanların bilgisayarlarında AI ile daha kolay ilgilenmelerini sağlayan hoş bir yenilik olmuştu.Qualcomm tarafına gelince, Snapdragon X Elite ve Snapdragon X Plus çipleri yapay zeka işleme performansını artırmak için güçlendirilmiş entegre Adreno GPU’larla birlikte geliyor.Bu arada kısa bir not düşecek olursak, yapay zeka performansı söz konusu olduğunda paralel hesaplama becerileriyle bilinen GPU’lar çok başarılı. NVIDIA, geçmişte RTX 4000 serisi GPU’ları bazı rakipleriyle karşılaştıran yapay zeka odaklı birkaç kıyaslama paylaşmıştı. RTX 4090 Mobil, RTX 4050 Mobil ve Apple Macbook Pro M3 Max yongaları Stable Diffusion, Arnold, Blender, Chaos V-ray, Octane, Adobe Premier Pro Enhance Speech, DaVinci Resolve ve ON1 Resize AI gibi yapay zeka kullanan çeşitli içerik oluşturma uygulamalarında karşılaştıran bir kıyaslama paylaştı.Karşılaştırmalara göre RTX 4090 Mobil GPU, en uç durumlarda M3 Max donanımlı Macbook Pro’dan 7 kattan fazla daha iyi performans gösterebiliyor. RTX 4050 Mobil GPU ise aynı Macbook Pro’dan 2 kattan fazla daha iyi performans sağlama potansiyeline sahip. Ortalama olarak mobil RTX 4090 M3 Max’ten 5 kat daha iyi performans gösterirken, RTX 4050 LT %50-100 oranında daha iyi performans gösterdi.NVIDIA, her yeni GPU mimarisiyle birlikte aynı zamanda yeni nesil Tensor çekirdeklerini de kullanıma açıyor. Yeni serilerle birlikte Tensor Çekirdeklerinin performansı artıyor. CUDA Çekirdekleri ve Tensor Çekirdeklerinin gelişimiyle birlikte yapay zeka çıktı performansı da üst noktaya taşınıyor.Son olarak güç tüketimi ve soğutma konularını da unutmamak gerekiyor. Yüksek performanslı yapay zeka iş yükleri GPU’ları sınırlarına kadar zorlayabilir. Bu nedenle AI bilgisayarınızın güç kaynağının ve soğutma çözümünün seçtiğiniz GPU’yu kaldırabileceğinden emin olun. Bilgisayarınız çok ısındığı için performansın düşmesini istemezsiniz elbette.Normalde bir bilgisayar alırken zaten RAM özelliklerini zaten kontrol edersiniz, ancak burada yapay zeka için bellek konusunu ayrıca ele alacağız. Yerel yapay zeka modellerini, özellikle de büyük dil modellerini (LLM’ler) çalıştırmak inanılmaz derecede yoğun bellek gerektiriyor. Belirttiğimiz gibi Microsoft, AI bilgisayarlar için minimum 16 GB kapasiteli bellekleri şart koşuyor.Dell XPS 13 gibi 8 GB RAM’e sahip birkaç model de var. Ancak bu sizi yanıltmasın, 16 GB’ın altına düşmemeye çalışın. Yapay zeka iş yükleri için bellek kapasitesi zaten önemli lakin zaten oyun oynuyorsanız artık bellek tüketimi çok artmış durumda. Yapay zeka görevlerini yerel olarak çalıştırma konusunda ciddiyseniz 16 GB’tan daha azına razı olmamanızı tavsiye ediyoruz. Elbette bütçe elveriyorsa 32 GB’a çıkılabilir.DDR4 vs DDR5 RAM: Performans Farkı Var mı?Dikkate alınması gereken bir diğer faktör de RAM türü. Yapay zeka bilgisayarlar için en son DDR standardına, yani DDR5’e göz atmanızda fayda var. DDR5, yapay zeka da dahil olmak üzere bazı koşullarda performansı gözle görülebilir oranda artırabiliyor.Bir yapay zeka bilgisayarı masaya yatırıldığında, yazılım ekosistemi de en az donanım özellikleri kadar önemlidir. Ancak yazılım tarafı biraz daha açık uçlu. Microsoft, Windows 11’e özel olmak kaydıyla sürekli yeni özellikler geliştiriyor. Şirket, Windows Copilot ve Windows Studio Effects gibi özelliklerin kullanıcı deneyiminin merkezi haline gelmesiyle yapay zeka entegrasyonuna büyük yatırım yapıyor. Ayrıca farklı şirketler de çeşitli yazılımlarına yapay zeka özellikleri dahil etmeye devam ediyor. Yeni bir AI PC kullanmak istiyorsanız Windows 11’den başka çareniz yok.Ek olarak, bir dizüstü bilgisayar almak istiyorsanız özel Copilot tuşuna sahip dizüstü bilgisayarlara bakmaya önem gösterin. Bu tuş, gerçek bir yapay zeka bilgisayarına baktığınızın kesin bir işareti.Yapay zeka konusunda öncü olmak isteyen şirket ASUS, Dell, Acer, Samsung, HP, Lenovo, Samsung ve Microsoft’un Surface markalı dizüstü bilgisayarlarıyla Copilot+ PC’leri tanıttı. Bunların hepsi şu an için Qualcomm’un Snapdragon X Elite ve Plus işlemcilerini kullanıyor, ancak Microsoft yakında çıkacak olan AMD Ryzen AI 300 “Strix Point” ve Intel Core Ultra 200V “Lunar Lake” yongalarının da uygun olabileceğini söyledi.Copilot+ PC olarak kabul edilebilmesi için bilgisayarların en az 16 GB RAM, 256 GB depolama alanı ve 40 TOPS (saniyede trilyonlarca işlem) yapabilen yerleşik bir NPU’ya sahip olması gerekiyor. Biraz önce de bahsettiğimiz gibi, Qualcomm Snapdragon X Elite SoC’lerde yer alan NPU 45 TOPS’luk performans üretebiliyor.Ne yazık ki, marka fark etmeksizin eski nesil işlemciye sahipseniz yeni AI özelliklerinden mahrum kalacaksınız. NPU’dan yoksun dizüstü ve masaüstü bilgisayar kullanıcıları, muhtemelen kalıcı olarak bu işin dışında kalacak.Kaynak: Teknopat
