OpenAI araştırmacılarının, şirketin yönetim kuruluna gönderdikleri bir mektupta, insanlık için tehdit oluşturabilecek bir yapay zeka keşfi konusunda uyarıda bulundukları söyleniyor.
Bu haber Reuters tarafından, konuya aşina iki kaynağa dayandırılarak verildi. Reuters’e göre mektup Altman’ın kovulmasıyla da bağlantılı, ancak tek neden bu değil.
The Verge’den bir kaynağa göre, kurul böyle bir mektubu hiç almadı ve bu yüzden Altman’ın kovulmasında bir rol oynamadı. Reuters mektubu görmediğini söylüyor. The Information mektubun kendisinden değil, mektupta anlatılan “Q*” atılımından bahsediyor.
Q-Star basit matematik problemlerini otonom olarak çözebilir
İddia edilen mektup, ilkokul matematik problemlerini otonom olarak çözebilen Q* (Q-Star olarak okunur) algoritması hakkındadır. Bu matematik problemleri eğitim veri setinin bir parçası değildi. OpenAI’nin baş bilim adamı Ilya Sutskever’in bu algoritmanın geliştirilmesinden sorumlu olduğu bildiriliyor.
Bazı OpenAI araştırmacıları Q-Star’ı yapay genel zekâya (AGI) giden yolda bir atılım olarak görüyor, çünkü matematik becerileri yapay zekâ sisteminin daha genel ve insan benzeri muhakeme becerileri geliştirdiğinin bir işareti olabilir.
Reuters’a göre, araştırmacılar kurula yazdıkları mektupta, sistemlerin sunduğu fırsatlara ve potansiyel tehlikelere dikkat çekerek, örneğin bilimsel atılımları hızlandırabileceğini belirttiler. Ayrıca OpenAI’nin böyle bir yapay zeka sistemi için gerekli güvenlik önlemlerini alıp almadığına dair endişelerini de dile getirdiler.
Reuters’e göre araştırmacılar ayrıca, varlığı çeşitli kaynaklar tarafından teyit edilen bir “Yapay Zeka Bilimci Ekibi “nin çalışmalarına da atıfta bulundular. Grup, eski “Code Gen” ve “Math Gen” ekiplerinin birleştirilmesiyle oluşturuldu. Ekip, mevcut YZ modellerinin muhakeme yeteneklerini geliştirmek ve nihayetinde bilimsel çalışmalar yapmak için nasıl değiştirilebileceğini araştırıyor.
Q-Star’ın arkasındaki iki araştırmacının Jakub Pachocki ve Szymon Sidor olduğu ve Ilya Sutskever’in çalışmalarını temel aldıkları söyleniyor. Sistemin bir demosunun birkaç haftadır OpenAI’de dolaşımda olduğu söyleniyor.
Pachocki ve Sidor, Altman’ın Sutsekver tarafından kovulmasından kısa bir süre sonra, iddiaya göre güvenlik nedenleriyle ayrıldılar. Ancak Altman’la birlikte geri döndüler. OpenAI kurucu ortağı Greg Brockman’ın Q-Star’ı OpenAI ürünlerine entegre etmek için çalıştığı söyleniyor.
“AGI dahili olarak başarıldı”
OpenAI sızdırıcısı “Jimmy Apples” Eylül ayı ortasında “AGI dahili olarak başarıldı” şeklinde tweet attığında Q-Star’a atıfta bulunuyor olabilir. Hatta OpenAI CEO’su Sam Altman bu ifadeyi Reddit’te de tekrarlamış, ancak daha sonra mesajını düzenleyerek AGI’nin “Reddit yorumuyla duyurulmayacağını” ve kendisinin sadece meme’i aldığını eklemiştir.
Kasım ayı başlarında Altman, mevcut dil modellerinin AGI’ye doğru hala “başka bir atılıma” ihtiyaç duyduğunu ve sadece sistemleri ölçeklendirmenin yeterli olmadığını söyledi. Yeni fiziksel olguları keşfedebilecek bir sistem gerekiyor.
Altman daha sonra, görevden alınmasından kısa bir süre önce, 16 Kasım’da APEC Zirvesi 2023‘te şifreli bir açıklama yaptı. OpenAI tarihinde, ekip “cehalet perdesini geriye, keşif sınırını ileriye” ittiğinde dört kez odada bulunmuştu. Altman en son birkaç hafta önce orada olduğunu söyledi. Bu “Jimmy Apple’ın” AGI tweet’i ile aynı zamana denk geliyor olabilir.
The Information ayrıca Sutskever’in 2021’de GPT-Zero adlı bir proje başlattığını bildiriyor. Burada, bir dil modeline yeni akademik keşifler yaratacak bir cevap üretmesi için daha fazla zaman verilecek ve hesaplama yapılacak. OpenAI sızdırıcısı “Jimmy Apples “ın şimdi mektubu çevreleyen söylentilerle bağlantılı olarak gündeme getirdiği kod adı “Zero“.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, Twitter, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.
