Yapay zekanın hayat kurtaran yeni ilaçlar geliştirmek ya da çocuklara eğitim vermenin yeni yollarını bulmak gibi devasa potansiyel faydalarına bir korku kutusu açmadan nasıl erişebiliriz?
Eğer dikkatli olmazsak, yapay zeka bir Frankenstein canavarı olabilir. Neredeyse tüm işleri ortadan kaldırabilir. Otonom savaşa yol açabilir.
YZ’yi eleştirenler, mümkün olduğunca çok ataç üretmek gibi sıradan bir hedefin bile, tümüyle güçlü bir YZ’yi daha fazla ataç elde etmek için Dünya’daki tüm yaşamı sona erdirmeye itebileceğini savunuyor.
Peki, bu risklerden kaçınırken YZ’nin faydalarından mümkün olduğunca çok yararlanmak için tasarlanmış bir girişimi nasıl inşa edersiniz?
Etik uzmanları ve YZ’nin potansiyel dezavantajları konusunda uzmanlarla dolu kar amacı gütmeyen bir yönetim kurulu ile başlayabilirsiniz.
Bu kar amacı gütmeyen kuruluş, modellerini test etmek için büyük miktarda pahalı bilgi işlem gücüne ihtiyaç duyacaktır, bu nedenle kar amacı gütmeyen yönetim kurulunun yatırımcıları çeken kar amaçlı bir ticari kolu denetlemesi gerekecektir.
Yatırımcıların işletmeyi ele geçirmesi nasıl önlenir? Yatırımcılara ne kadar kâr aktarılabileceğini sınırlandırmanız (“sınırlandırılmış kâr” denilen bir yapı aracılığıyla) ve yatırımcıları yönetim kuruluna almamanız gerekir.
Peki, yönetim kurulu üyeleri ve çalışanlar milyarlar kazanma umuduyla cezbedildikçe açgözlülüğün işletmeyi yozlaştırmasını nasıl önlersiniz?
Önleyemezsiniz. Bu da özel teşebbüsün yapay zeka geliştirmesi fikrindeki kusurdur.
Tanımladığım kar amacı gütmeyen kuruluş, OpenAI’nin 2015 yılında güvenli YZ teknolojisi oluşturmak için araştırma odaklı bir kar amacı gütmeyen kuruluş olarak kurulduğu yönetim yapısıydı.
Ancak OpenAI’nin ChatGPT’si teknolojinin kutsal kasesine -milyarlarca dolar kâr getirecek ölçekli bir tüketici platformuna- ulaşma yolunda göründüğünden beri, kâr amacı gütmeyen güvenlik misyonu büyük para tarafından tehlikeye atıldı.
Şimdi, büyük para güvenliği yutmaya doğru gidiyor.
Yapay zeka kendi başına zarar vermez. Onu kontrol eden insanlar için endişelenmeliyiz Kenan Malik Kenan Malik Devamını oku 2019’da OpenAI, bilgi işlem gücü ve yapay zeka yetenekleri için ödeme yapacak yatırımcıları çekebilmek amacıyla sınırlandırılmış bir kar yapısına geçti.
OpenAI’nin en büyük dış yatırımcısı, yöneticileri ve hissedarları için mümkün olduğunca çok kazanmak istediği açık olan Microsoft. Microsoft, 2019’dan bu yana OpenAI’ye 13 milyar dolar yatırım yaptı ve bu yatırımdan büyük bir getiri elde etme beklentisi içinde.
Ancak OpenAI’nin sınırlandırılmış kâr yapısı ve kâr amacı gütmeyen yönetim kurulu, Microsoft’un ne kadar kazanabileceğini sınırladı. Ne yapmalı?
OpenAI’nin CEO’su Sam Altman, görünüşe göre her iki yolu da denedi – kar amacı gütmeyen kuruluşun insani hedeflerinden ve güvencelerinden vazgeçmeden Microsoft’a istediklerinin bir kısmını verdi.
Ama işe yaramadı. Geçen hafta OpenAI’nin kar amacı gütmeyen yönetim kurulu, muhtemelen yapay zekanın yarattığı tehditlere yeterince önem vermezken Microsoft’un para kazanma hedefine doğru çok fazla eğildiği korkusuyla Altman’ı görevden aldı.
Altman kovulduktan sonra nereye gitti? Elbette Microsoft’a.
Peki ya OpenAI’nin 700’den fazla çalışanı – değerli yetenek havuzu?
Güvenlik konusunda endişeli olduklarını varsaysak bile, şirketin hisselerine sahipler ve OpenAI güvenlik yerine büyümeye öncelik verirse bir tekne dolusu para kazanacaklar. OpenAI’nin bir ihale teklifinde 80 milyar ila 90 milyar dolar arasında bir değere sahip olabileceği tahmin ediliyor – bu da onu tüm zamanların en değerli teknoloji girişimlerinden biri haline getiriyor.
Bu nedenle OpenAI çalışanlarının neredeyse tamamının bu hafta başında bir mektup imzalayarak, yönetim kurulunun Altman’ı CEO’luk görevine iade etmemesi halinde Altman’ı Microsoft’a kadar takip edeceklerini bildirmeleri sürpriz olmadı.
Altman, OpenAI çalışanları ve hatta Microsoft da dahil olmak üzere ilgili herkes, OpenAI hayatta kalırsa ve ihale teklifinde hisselerini satabilirlerse çok daha fazla para kazanacaklar.
Presto.
Salı günü, OpenAI yönetim kurulu Altman’ı yeniden CEO olarak atadı ve kendisini revize etmeyi kabul etti – Altman’a karşı çıkan yönetim kurulu üyelerini görevden aldı ve Microsoft’un isteklerini yerine getirmekten mutlu görünen iki yönetim kurulu üyesini ekledi: Facebook’un ilk yöneticilerinden ve Salesforce’un eski eş başkanı Bret Taylor ve eski Hazine bakanı Lawrence Summers.
Microsoft’un CEO’su Satya Nadella, “OpenAI yönetim kurulundaki değişikliklerden cesaret aldığını” söyledi ve bunu “daha istikrarlı, iyi bilgilendirilmiş ve etkili yönetişime giden yolda ilk önemli adım” olarak nitelendirdi.
Etkili yönetim… çok para kazanmak için.
“Başarının” otomatik olarak mümkün olduğunca çok para kazanmak olarak tanımlandığı iş dünyası basını çok sevindi.
Kar amacı gütmeyen yönetim kurulunu defalarca Altman’ın “daha da hızlı” hareket etmesini engelleyen “karmaşık” bir yönetişim yapısı olarak tanımlamış ve OpenAI’nin büyüme ve güvenlik arasındaki çekişme yüzünden dağılması halinde “insanların milyarlarca dolarlık hissedar değerini yok ettiği için … yönetim kurulunu suçlayacağını” öngörmüştü.
Tüm bunlar, yapay zekanın gerçek Frankenstein canavarının insan açgözlülüğü olduğunu gösteriyor.
Her zamankinden daha büyük kârların cazibesine kapılan özel teşebbüsün, sınırsız bir YZ’nin yaratacağı dehşete karşı kendini koruyacağına güvenilemez.
Geçen hafta OpenAI üzerinde yaşanan çılgınca mücadele, yatırımcılar için sınırlandırılmış bir kar yapısına sahip kar amacı gütmeyen bir yönetim kurulunun bile büyük teknoloji ve Wall Street’in gücüyle boy ölçüşemeyeceğini gösteriyor.
Sonunda para zafer kazanıyor.
Geleceğin sorusu, büyük paranın yolsuzluğuna da açık olan hükümetin, yapay zekanın potansiyel faydalarını potansiyel dehşetlerine karşı tartarak daha iyi bir iş çıkarıp çıkaramayacağı ve canavarı düzenleyip düzenleyemeyeceğidir.
Kaynak: *Robert Reich / The Guardian
* ABD’nin eski çalışma bakanlarından Robert Reich, Berkeley’deki California Üniversitesi’nde kamu politikaları profesörü ve Saving Capitalism (Kapitalizmi Kurtarmak) adlı kitabın yazarıdır: For the Many, Not the Few ve The Common Good kitaplarının yazarıdır. En yeni kitabı, The System: Who Rigged It, How We Fix It adlı yeni kitabı çıktı.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, Twitter, LinkedIn ve Instagram‘da takip edin.
