Elon Musk’ın yapay zeka girişimi xAI, en son modeli olan Grok-1.5’in piyasaya sürüldüğünü duyurdu.
Yeni model yakında mevcut kullanıcılara ve X platformundaki erken test kullanıcılarına sunulacak. xAI’ye göre yeni özellikler arasında gelişmiş muhakeme yetenekleri ve 128.000 token’lık bir bağlam uzunluğu yer alıyor.
Bağlam uzunluğu, modelin tek seferde işleyebileceği kelime veya sayfa sayısını ifade ediyor. 128.000 belirteç yaklaşık 100.000 kelimeye veya 300 kitap sayfasına karşılık geliyor. Bu, Grok 1.5’in daha fazla örnekle daha karmaşık istemleri işleyebileceği anlamına geliyor.
Testlerde Grok 1.5, MATH ölçütünde %50,6 ve GSM8K ölçütünde %90 puan almıştır. Her iki ölçüt de ilkokuldan lise yarışma seviyesine kadar geniş bir yelpazedeki matematik problemlerini kapsıyor. Kod oluşturma ve problem çözme için Grok-1.5, HumanEval kıyaslamasında %74,1 puan elde etti.
MMLU dil anlama ölçütünde, Grok 1.5 yaklaşık %81 puan aldı. Bu, Grok-1’in %73’üne göre büyük bir sıçrama, ancak her biri yaklaşık %86 puan alan mevcut liderler GPT-4 ve Claude 3 Opus’un oldukça gerisinde. Ve OpenAI bu yaz için bir sonraki modele sahip olabilir.
Yapay zeka modelinin bağlam penceresi içinde belirli bilgileri güvenilir bir şekilde bulup bulamadığını kontrol eden “samanlıkta iğne arama” testinde Grok 1.5 mükemmel bir sonuç elde etti. Ancak bu test, dil modelini pahalı bir arama fonksiyonu gibi kullandığı için çok anlamlı değil.
Daha alakalı, ancak test edilmesi çok daha zor olan, çok büyük belgeleri özetlerken hata veya eksikliklerin sayısı gibi şeyler olacaktır. Google veya Anthropic gibi diğer yapay zeka şirketleri de modellerinin bağlam penceresinin performansıyla övünmek için bu son derece yanıltıcı ölçütü kullanıyor.
xAI, yapay zeka eğitimini daha verimli hale getirmek için çalışıyor
xAI, özellikle eğitim çerçevesinde yeniliğe odaklandığını vurguluyor. Şirket, Grok-1.5’in JAX, Rust ve Kubernetes üzerine inşa edilmiş özel bir dağıtılmış eğitim çerçevesine dayandığını söylüyor. Bu eğitim yığını, ekibin fikirleri prototip haline getirmesine ve yeni mimarileri minimum çabayla geniş ölçekte eğitmesine olanak tanıyor.
xAI, büyük dil modellerinin (LLM’ler) büyük hesaplama kümelerinde eğitilmesindeki en büyük zorluklardan birinin, eğitim işinin güvenilirliğini ve kullanılabilirliğini optimize etmek olduğunu söylüyor.
xAI’nin özel eğitim orkestratörü, sorunlu düğümlerin otomatik olarak tespit edilmesini ve eğitim işinden çıkarılmasını sağlamak için tasarlandı. Kontrol noktası oluşturma, veri yükleme ve eğitim işlerinin yeniden başlatılması da bir arıza durumunda kesinti süresini en aza indirecek şekilde optimize edildi.
xAI, Grok-1’i yaklaşık iki hafta önce açık kaynaklı hale getirdi. Bugüne kadar açık kaynak olarak sunulan en büyük uzmanlar karışımı modelidir. Bununla birlikte, daha küçük ve daha verimli açık kaynaklı modellerin performansının gerisinde kaldı. xAI, Grok 1.5’i açık kaynak haline getirme planları hakkında yorum yapmadı.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, X (Twitter), Bluesky, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.
