Pause AI ve No AGI gruplarından düzinelerce protestocu OpenAI’nin San Francisco’daki merkezinde toplanarak Yapay Genel Zekâ (YGZ / Artificial General Intelligence- AGI) yaratılmasını protesto etti.
Gösteri kısmen OpenAI’nin kısa bir süre önce hizmet şartlarından YZ’nin askeri amaçlarla kullanılmasını yasaklayan maddeyi kaldırmasına bir yanıt niteliğindeydi. Şirketin Pentagon ile siber güvenlik projeleri üzerinde çalıştığı bildiriliyor.
Her iki grup da OpenAI’nin ordu ile ilişkisinin sona erdirilmesini ve yapay zeka gelişiminin dışarıdan düzenlenmesini talep ediyor.
Ancak protestocuların asıl endişesi, makinelerin insan zekasını aştığı bir geleceğe yol açabilecek olan Yapay Genel Zekanın (AGI) geliştirilmesi. Her iki grup da OpenAI’yi gelişmiş YZ sistemleri üzerinde çalışmayı durdurmaya ve YGZ’nin gelişimini yavaşlatmaya hatta durdurmaya çağırıyor.
VentureBeat’in haberine göre, yapay zekanın toplumdaki güç dinamiklerini ve karar alma mekanizmalarını temelden değiştirebileceğini, bunun da iş kaybına ve insan hayatının anlamını yitirmesine yol açabileceğini savunuyorlar.
Reporting from the protest at OpenAI pic.twitter.com/SYbXKYq43b
— Garrison Lovely is in SF til Feb 12 (@GarrisonLovely) February 13, 2024
VentureBeat’e göre, gruplar AGI konusunda tamamen birleşmiş olmasalar da daha fazla eylem planlıyorlar: Pause AI güvenli bir şekilde geliştirilebildiği takdirde AGI fikrine açıkken, No AGI AGI’nin geliştirilmesine şiddetle karşı çıkıyor.
Argümanlarını daha derinlemesine incelemek isterseniz PauseAI’ın “Protestocu Kılavuzu” ve mesajlaşma kılavuzunu okuyabilirsiniz.
YZ gelişiminin duraklatılması ilk kez bir grup araştırmacı ve endüstri liderinin YZ Duraklatma Mektubu’nu yayınlamasıyla kamuoyunda gündeme geldi. Ancak şu anda, YZ yanlısı kamp üstünlüğü ele geçiriyor gibi görünüyor.
Hükümetler, yaygın YZ dağıtımının potansiyel olumsuz etkilerini düzenlemeye çalışıyor. ABD, YZ yürütme emriyle, AB ise kısa süre önce kabul edilen AB YZ Yasası ile bu konuda öncülük ediyor.
OpenAI CEO’su Sam Altman geçmişte YZ’yi AGI olarak tanımlamanın sınırlarının değişken olduğuna dikkat çekmişti: GPT-4 gibi sistemler on yıl önce birçok kişi tarafından AGI olarak kabul ediliyor. Bugün ise onlar sadece “hoş küçük sohbet robotları”. Altman, insanlığın önümüzdeki on yıl içinde bir AGI tanımı üzerinde anlaşmaya varması gerektiğini söyledi.
Altman ayrıca büyük dil modellerinin ölçeklendirilmesinin AGI’ye yol açmasının olası olmadığına ve başka bir atılıma ihtiyaç olduğuna inanıyor. Gerçek bir süper zekanın fizikte yeni olgular keşfedebilmesi gerektiğini söyledi. Altman’a göre, bu sadece bilinen veriler üzerinde eğitim yaparak ve insan davranışını ve metnini taklit ederek başarılamaz.
OpenAI, diğer şeylerin yanı sıra, yapay zekanın güvenliğini artırmak ve temel yapay zeka modellerinden kaynaklanan potansiyel felaket risklerini önlemek için bir “Hazırlık Ekibi” kurdu. Ekip, önde gelen YZ sistemlerinin kötüye kullanılması riski, bu sistemleri izlemek ve değerlendirmek için sağlam bir çerçevenin geliştirilmesi ve model ağırlıklarının kötü niyetli aktörlerin eline geçmesinin potansiyel etkisi gibi kritik konuları ele alıyor.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, Twitter, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.
