Araştırmacılar, yapay zeka sistemlerinin enerji tüketimini önemli ölçüde azaltabilecek bir algoritma geliştirdiler.
BitEnergy AI’daki bilim insanları, yapay zeka modellerindeki karmaşık kayan nokta çarpımlarını daha basit tam sayı toplamalarıyla değiştiren “Doğrusal karmaşıklık çarpımı” (L-Mul) adı verilen bir yöntem geliştirdiler.
“Enerji Verimli Dil Modelleri İçin Toplama Tek İhtiyacınız Olan Şeydir” adlı çalışmaya göre, L-Mul, eleman bazında kayan nokta tensör çarpımları için enerji kullanımını %95’e kadar ve nokta ürünleri için %80’e kadar azaltabilir. Ekip, yaklaşımlarını dil anlama, yapısal akıl yürütme, matematik ve sağduyu sorularını yanıtlama gibi çeşitli dil, görme ve akıl yürütme görevlerinde test etti.
Araştırmacılar, L-Mul’un transformatör modellerindeki dikkat mekanizmasına minimal performans kaybıyla doğrudan uygulanabileceğini söylüyor. Dikkat mekanizması, GPT-4o gibi modern dil modellerinin temel bir bileşeni.
Dikkat mekanizmalarında doğrudan kullanım mümkün
BitEnergy AI, L-Mul’un akademik ve ekonomik rekabet gücünü ve AI egemenliğini güçlendirme potansiyelini görüyor. Büyük kuruluşların özel AI modellerini daha hızlı ve daha uygun maliyetli bir şekilde geliştirmesini sağlayabileceğine inanıyorlar.
Ekip, L-Mul algoritmalarını donanım düzeyinde uygulamayı ve üst düzey model tasarımı için programlama API’leri geliştirmeyi planlıyor. Amaçları, L-Mul donanımı için optimize edilmiş metin, sembolik ve çok modlu AI modellerini eğitmektir.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, X (Twitter), Bluesky, LinkedIn, Instagram ve Whatsapp Kanalımız‘dan takip edin.
