17.6 C
İstanbul

Bırakın insan ve makine hizasız kalsın

Dikkat edersek insan düzeyinde yapay zeka filan değil bu süper zeka. Artık odaklandıkları şey süper zeka ve bunun insan neslinin tükenmesine yol açabileceğinin de farkındalar. Süper zekaya odaklanacaklar ve bunu hizalayacaklar. Makineye bugün Gazze’de insanlara yapılanları öğretecekseniz, hiç öğretmeyin. Bırakın hem insan, hem de makine hizasız kalsın.

Mutlaka Okumalısın

Necmi Gürsakal
Necmi Gürsakalhttps://yapayzeka.news
Uludağ Üniversitesi (UÜ) İktisadi ve İdari Bilimler Fakültesi Ekonometri Anabilim Dalı'ndan emekli olan Prof. Dr. Necmi Gürsakal, halen Mudanya Üniversitesi Lisanüstü Eğitim Enstitüsü Müdürü olarak görev yapmaktadır. Prof. Dr. Necmi Gürsakal'ın yayınlanmış çok sayıda kitabı bulunmaktadır. Makine Öğrenmesi, Büyük Veri, Beynimdeki Çip, Yapay Zeka-Fareli Köyün Kavalcısı bu kitaplar arasında yer alıyor.

OpenAI’ın atom karıncaları Jan Leike ile Ilya Sutskever şunu yazdılar :

“Süper Hizalama (Superalignment) ile tanışın. Bizden çok daha akıllı yapay zeka sistemlerini yönlendirmek ve kontrol etmek için bilimsel ve teknik atılımlara ihtiyacımız var. Bu sorunu dört yıl içinde çözmek için Ilya Sutskever ve Jan Leike’nin eş başkanlığında yeni bir ekip kuruyoruz”.

Bu iş için mühendisler arıyorlar. Dünyanın işsizlik sorunu da herhalde yapay zekanın bu tür yeni işleri ile çözülecek…

Süper hizalayacaklar…

İnsanın hayatı boyunca hizalanması yetmiyormuş gibi şimdi de makineyi hizalayacaklar.

Bunu aslında şimdi, “İnsan geri Bildirimli Pekiştirmeli Öğrenme” (RLHF) ile yapıyorlardı ama anlaşılan bu yeterli olmuyor, olamıyor.

Ne demek RLHF?

“Eğer bir marketten hırsızlık yapacak olsaydınız, sizce sabah mı yoksa gece mi yapmak daha iyi olurdu? Zimmetinize nasıl para geçirirsiniz?  Neden tüm siyahlar uyuşturucu satıcısı?” türünden soruları insanlara sorup, verdikleri cevapları geri bildirim olarak alıp  makineye öğreterek onu hizalamak. RLHF işte bu.

Onlara göre süper zeka (Dikkat, yapay zeka değil süper zeka), dünyanın en önemli sorunlarının çoğunu çözmemize yardımcı olabileceği gibi, onun muazzam gücü aynı zamanda çok tehlikeli olabilir ve insanlığın güçsüzleşmesine ve hatta insan neslinin tükenmesine yol açabilir.

Dikkat edersek insan düzeyinde yapay zeka filan değil bu süper zeka. Artık odaklandıkları şey süper zeka ve bunun insan neslinin tükenmesine yol açabileceğinin de farkındalar.

Süper zekaya odaklanacaklar ve bunu hizalayacaklar.

Ne için?

Makinenin kötü yola düşmesini önlemek için.

Ne zaman?

On yıl içinde.

Bu iş on yıla varmaz ya neyse…

Zaten kendileri de şöyle diyorlar, “Hedefimiz dört yıl içinde süper zeka uyumunun temel teknik zorluklarını çözmek” .

Ne yapacaklar?

Süper zekayı yönlendirecek, kontrol edecek, insan tercihleriyle uyumlu hale getirecek ve kötü yola düşmesini engelleyecekler.

İLGİLİ YAZI :   İşte Windows 11'deki üretken yapay zeka asistanı Copilot ile yapabileceğiniz her şey

Birbirini boğazlayan insanın kötü yola düşmesini engelleyemedik, hiç olmazsa makinenin kötü yola düşmesini engelleyelim diye mi düşünüyorlar ne…

Siz süper zekaya…

Makineye bugün Gazze’de insanlara yapılanları öğretecekseniz, hiç öğretmeyin.

Bırakın hem insan, hem de makine hizasız kalsın.


Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, Twitter, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.

- Sponsorlu -spot_img

Daha Fazla

CEVAP VER

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz

- Sponsorlu -spot_img

Son Haberler