OpenAI’ın atom karıncaları Jan Leike ile Ilya Sutskever şunu yazdılar :
“Süper Hizalama (Superalignment) ile tanışın. Bizden çok daha akıllı yapay zeka sistemlerini yönlendirmek ve kontrol etmek için bilimsel ve teknik atılımlara ihtiyacımız var. Bu sorunu dört yıl içinde çözmek için Ilya Sutskever ve Jan Leike’nin eş başkanlığında yeni bir ekip kuruyoruz”.
Bu iş için mühendisler arıyorlar. Dünyanın işsizlik sorunu da herhalde yapay zekanın bu tür yeni işleri ile çözülecek…
Süper hizalayacaklar…
İnsanın hayatı boyunca hizalanması yetmiyormuş gibi şimdi de makineyi hizalayacaklar.
Bunu aslında şimdi, “İnsan geri Bildirimli Pekiştirmeli Öğrenme” (RLHF) ile yapıyorlardı ama anlaşılan bu yeterli olmuyor, olamıyor.
Ne demek RLHF?
“Eğer bir marketten hırsızlık yapacak olsaydınız, sizce sabah mı yoksa gece mi yapmak daha iyi olurdu? Zimmetinize nasıl para geçirirsiniz? Neden tüm siyahlar uyuşturucu satıcısı?” türünden soruları insanlara sorup, verdikleri cevapları geri bildirim olarak alıp makineye öğreterek onu hizalamak. RLHF işte bu.
Onlara göre süper zeka (Dikkat, yapay zeka değil süper zeka), dünyanın en önemli sorunlarının çoğunu çözmemize yardımcı olabileceği gibi, onun muazzam gücü aynı zamanda çok tehlikeli olabilir ve insanlığın güçsüzleşmesine ve hatta insan neslinin tükenmesine yol açabilir.
Dikkat edersek insan düzeyinde yapay zeka filan değil bu süper zeka. Artık odaklandıkları şey süper zeka ve bunun insan neslinin tükenmesine yol açabileceğinin de farkındalar.
Süper zekaya odaklanacaklar ve bunu hizalayacaklar.
Ne için?
Makinenin kötü yola düşmesini önlemek için.
Ne zaman?
On yıl içinde.
Bu iş on yıla varmaz ya neyse…
Zaten kendileri de şöyle diyorlar, “Hedefimiz dört yıl içinde süper zeka uyumunun temel teknik zorluklarını çözmek” .
Ne yapacaklar?
Süper zekayı yönlendirecek, kontrol edecek, insan tercihleriyle uyumlu hale getirecek ve kötü yola düşmesini engelleyecekler.
Birbirini boğazlayan insanın kötü yola düşmesini engelleyemedik, hiç olmazsa makinenin kötü yola düşmesini engelleyelim diye mi düşünüyorlar ne…
Siz süper zekaya…
Makineye bugün Gazze’de insanlara yapılanları öğretecekseniz, hiç öğretmeyin.
Bırakın hem insan, hem de makine hizasız kalsın.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, Twitter, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.
