- OpenAI CEO’su Sam Altman’ı kovmadan aylar önce, girişim daha gelişmiş yapay zeka modellerine yol açabilecek bir atılım gerçekleştirdi.
- Q* adı verilen bu atılım, LLM’lerin temel matematik problemlerini çözmesini sağladı; bu, üretken yapay zeka için önemli bir teknik kilometre taşıydı.
- Ancak Meta Baş Yapay Zeka Bilimcisi Yann LeCun, birçok üst düzey laboratuvarın üzerinde çalıştığı bu atılımın “tamamen saçmalık” olduğunu söyledi.
Sam Altman’ın OpenAI CEO’luğundan azledilmesinden üç gün sonra ve yapay zeka camiasının kafası bu kovulma konusunda karışıkken, teknoloji milyarderi Elon Musk OpenAI Baş Bilim İnsanı Ilya Sutskever’e şu çarpıcı soruyu sordu:
“Neden bu kadar sert bir adım attınız?” Musk X (eski adıyla Twitter) üzerinden paylaşımda bulundu. “Eğer OpenAI insanlık için potansiyel olarak tehlikeli bir şey yapıyorsa, dünyanın bunu bilmesi gerekir.”
I deeply regret my participation in the board’s actions. I never intended to harm OpenAI. I love everything we’ve built together and I will do everything I can to reunite the company.
— Ilya Sutskever (@ilyasut) November 20, 2023
Sutskever, Altman’ın ayrılmasını teşvik edenlerden biriydi. Sutskever’in OpenAI teknolojisinin ticarileşme hızından endişe duyduğu bildiriliyor. The Information’a göre, işten çıkarılmadan aylar önce OpenAI çok daha güçlü yapay zeka modelleri geliştirmelerini sağlayacak bir buluşa imza atmıştı.
Sutskever ve kâr amacı gütmeyen ana kuruluşu yöneten yönetim kurulu, OpenAI’nin bu gelişmiş modellere karşı koruma sağlamak için hala yeterli güvenceye sahip olmadığından korkuyordu. Tek çarenin bu hızlı ticarileşmenin baş kışkırtıcısını kovmak olduğunu düşündüler: Altman.
Q* (Q-star) adı verilen buluşun, YZ modellerinin daha önce görmediği temel matematik problemlerini çözmesini sağladığı bildiriliyor;- önemli bir teknik kilometre taşı. Şu anda, üretken yapay zeka, soruya bağlı olarak değişen sonuçlar üretiyor. Ancak matematikte tek bir cevap vardır. Reuters’e göre Q*’nun geliştirilmesi, YZ’nin insan zekasına benzer daha büyük muhakeme güçlerine ulaşabileceği anlamına geliyor.
Bu da yapay zeka gelişiminin mevcut seviyelerini, makinelerin insan gibi düşünebildiği yapay genel zekaya (Artificial General Intelligence – AGI) bir adım daha yaklaştırıyor. YZ’nin sözde vaftiz babası tarafından yönetilen etkili bir YZ kampı, daha güçlü korkuluklar olmadığı takdirde YGZ’nin insan neslinin tükenmesine yol açabileceğine inanıyor.
Meta’dan LeCun aynı fikirde değil
Meta Baş Yapay Zeka Bilimcisi Yann LeCun’a göre bu tamamen saçmalık.
“Lütfen Q* hakkındaki saçmalıkları görmezden gelin” diyen LeCun, “Hemen hemen her üst düzey laboratuvar (FAIR, DeepMind, OpenAI, vb.) bunun üzerinde çalışıyor ve bazıları zaten fikirlerini ve sonuçlarını yayınladı.”
Please ignore the deluge of complete nonsense about Q*.
One of the main challenges to improve LLM reliability is to replace Auto-Regressive token prediction with planning.Pretty much every top lab (FAIR, DeepMind, OpenAI etc) is working on that and some have already published…
— Yann LeCun (@ylecun) November 24, 2023
LeCun, AGI’nin insan neslinin tükenmesine yol açabileceği görüşüne karşı çıkan YZ topluluğunun önde gelen bir sesi. Gerekçesi: Süper zekaya sahip bir varlık, otomatik olarak daha zayıf zekaya sahip olanları fethetmek istediği anlamına gelmez. LeCun, personeli daha zeki olan liderler tarafından yönetilen birçok şirket ekibine işaret etti.
Dahası LeCun, makinelerin sosyal yaratıklar olmadığını ve insanlığa hükmetme arzusu taşımadığını savunuyor. İnsanlar hiyerarşik olarak örgütlenmişlerdir ve bu nedenle birbirlerini fethetme eğilimleri vardır. LeCun kısa süre önce çevrimiçi bir tartışmada “Zekanın hükmetme arzusuyla hiçbir ilgisi yoktur” dedi. Bunun yerine, süper zeki yapay zeka asistanlarının insanların daha da zeki olmasına yardımcı olacağını söyledi.
LeCun AGI hakkındaki görüşlerini şu şekilde özetledi:
- Gelecekte insanüstü yapay zekalar olacak.
- Bizim kontrolümüz altında olacaklar.
- Bize hükmetmeyecek ya da bizi öldürmeyecekler.
- Dijital dünya ile olan tüm etkileşimlerimize aracılık edecekler.
- Bu nedenle, herkesin onları eğitmeye ve ayarlamaya katkıda bulunabilmesi için açık platformlar olmaları gerekecek.
Kaynak: Deborah Yao / AI Business
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, Twitter, LinkedIn ve Instagram‘da takip edin.
