Nvidia ile yeni yapay zeka çiplerinde rekabete giren AMD, büyük dil modellerini veya LLM’leri çalıştırmaya yönelik yeni hızlandırıcılarını ve işlemcilerini duyurdu.
Yonga üreticisi, LLM’leri eğitmek ve çalıştırmak için Instinct MI300X hızlandırıcısını ve Instinct M1300A hızlandırılmış işlem birimini (APU) tanıttı. Şirket MI300X’in önceki M1250X versiyonuna göre 1,5 kat daha fazla bellek kapasitesine sahip olduğunu kaydetti. AMD, her iki yeni ürünün de daha iyi bellek kapasitesine sahip olduğunu ve öncekilere göre daha enerji tasarruflu olduğunu bildirdi.
AMD CEO’su Lisa Su, “LLM’lerin boyutu ve karmaşıklığı artmaya devam ediyor ve büyük miktarlarda bellek ve işlem gerektiriyor. GPU’ların kullanılabilirliğinin yapay zekanın benimsenmesinde en önemli itici güç olduğunu biliyoruz” dedi.
Su, sunum sırasında MI300X’in “dünyadaki en yüksek performanslı hızlandırıcı” olduğunu söyledi. MI300X’in LLM’lerin eğitiminde Nvidia’nın H100 çipleriyle karşılaştırılabilir olduğunu ancak çıkarım tarafında daha iyi performans gösterdiğini iddia etti; 70 milyar parametreli bir LLM olan Meta’nın Llama 2’si ile çalışırken H100’den 1,4 kat daha iyi.
AMD, MI300X’i Azure sanal makinelerine yerleştirmek için Microsoft ile ortaklık kurdu. Su’nun konuşması sırasında konuk olan Microsoft CTO’su Kevin Scott da ilk kez Kasım ayında ortaya çıkan Azure ND MI300X sanal makinelerinin artık önizlemede mevcut olduğunu duyurdu. Meta da veri merkezlerinde MI300 işlemcileri kullanacağını duyurdu.
Su, AMD’nin veri merkezleri için MI300A APU’yu piyasaya sürdüğünü ve toplam adreslenebilir pazarını 45 milyar dolara çıkarmasının beklendiğini söyledi. APU’lar genellikle daha hızlı işlem için CPU’ları ve GPU’ları birleştiriyor. AMD, MI300A’nın daha yüksek performanslı bilgi işlem, daha hızlı model eğitimi ve 30 kat enerji verimliliği iyileştirmesi sunduğunu söyledi. AMD, H100 ile karşılaştırıldığında 1,6 kat daha fazla bellek kapasitesine sahip olduğunu söyledi. Ayrıca birleşik bellek özelliğine sahip olduğundan, artık farklı cihazlardan veri taşımaya gerek kalmıyor.
MI300A, Hewlett Packard Enterprise tarafından Lawrence Livermore Ulusal Laboratuvarı’nda inşa edilen El Capitan süper bilgisayarına güç verecek. El Capitan en güçlü süper bilgisayarlardan biri olarak kabul ediliyor ve iki exaflop’tan fazla performans sunması bekleniyor.
MI300A APU, şu anda üretimde ve veri merkezlerine yerleştiriliyor.
Fiyat bilgisi ise henüz duyurulmadı.
AMD ayrıca mobil cihazlara daha fazla yerel yapay zeka işlevi ekleyebilen Ryzen işlemcilerinin son üyesi Ryzen 8040’ı da duyurdu. Şirket, 8040 serisinin önceki modellere göre 1,6 kat daha fazla yapay zeka işleme performansı sunduğunu ve sinir işleme birimlerini (NPU’lar) entegre ettiğini söyledi.
Şirket, Ryzen 8040’ın yapay zeka işleme ile sınırlı kalmayacağını, Intel’in çipleri gibi rakip ürünlere kıyasla video düzenlemenin yüzde 65 ve oyun oynamanın yüzde 77 daha hızlı olacağını iddia etti.
AMD, Acer, Asus, Dell, HP, Lenovo ve Razer gibi üreticilerin 2024’ün ilk çeyreğinde Ryzen 8040 çiplerini entegre eden ürünleri piyasaya sürmesini bekliyor.
Su, Strix Point NPU’larının yeni neslinin 2024 yılında piyasaya sürüleceğini söyledi.
AMD ayrıca, Ryzen destekli dizüstü bilgisayarlarda yapay zeka modelleri geliştiren geliştiricilerin, CPU’nun güç tüketimini azaltabilmesi için modelleri NPU’ya boşaltmasına olanak tanıyan Ryzen Yapay Zeka Yazılım Platformu’nun artık yaygın olarak kullanılabileceğini duyurdu. Kullanıcılar, konuşma tanıma modeli Whisper ve Llama 2 gibi LLM’ler gibi temel modeller için destek alacaklar.
Yapay zeka modellerine güç sağlamak ve bu teknolojinin mevcut heyecanından yararlanmak için AMD, Nvidia ve Intel gibi şirketler, temelde bir yapay zeka çipi silahlanma yarışına kilitlenmiş durumdalar. Şimdiye kadar Nvidia, OpenAI’nin GPT’si gibi modelleri eğitmek için kullanılan çok beğenilen H100 GPU’ları ile en büyük pazar payını ele geçirdi.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, Twitter, LinkedIn ve Instagram‘da takip edin.
