Nick Bostrom: Yapay genel zeka ince yollarla insanlığın sonunu getirebilir

Yapay zekanın varoluşsal risklerine ilişkin uyarılarıyla tanınan filozof Nick Bostrom, yapay zeka üzerine “Derin Ütopya” adlı yeni bir kitap yayınlıyor: Çözülmüş Bir Dünyada Yaşam ve Anlam” adlı yeni bir kitap yayımladı.

Bostrom bu kez distopik senaryolara odaklanmak yerine, süper zeki makinelerin tüm sorunları çözdüğü ve tüm hastalıkları fethettiği bir geleceği araştırıyor.

Geçmişte Bostrom, profesyonel çevrelerde, mümkün olduğunca çok sayıda bağlam üretmekle görevli süper zeki bir yapay zeka sistemini tanımlayan bağlam örneğiyle tanındı.

Yapay zeka, görevini etik değerler olmaksızın kelimenin tam anlamıyla yorumlar ve Dünya’nın tüm yüzeyini ve ötesini ele geçirene kadar Dünya’nın kaynaklarını giderek daha fazla bağlama dönüştürür.

Bu örnek, görünüşte basit bir görev verilen bir yapay zekanın, insan çıkarlarıyla uyumlu olmadığı takdirde nasıl feci sonuçlara yol açabileceğini gösteriyor.

AGI insanlık için fazla iyi olabilir

Bostrom yeni kitabında farklı bir yaklaşım benimsiyor. YZ’nin daha da geliştirilmesi için muazzam ekonomik faydalar, bilimsel ilerlemeler, yeni ilaçlar, temiz enerji kaynakları ve askeri teşvikler gibi güçlü itici güçler görüyor.

Kitap, böyle bir tekno-ütopyada yaşamın nasıl bir anlamı olabileceğini araştırıyor ve bunun oldukça boş olup olmayacağını soruyor.

Bostrom Wired’a verdiği bir röportajda şöyle diyor: “Bir süper zekaya sahip olabiliriz ve o her şeyi yapabilir: O zaman artık yapmamız gerekmeyen pek çok şey olur ve bu da şu anda insan varoluşunun her şeyi ve sonu olduğunu düşündüğümüz pek çok şeyin altını oyar.”

Bostrom, yine de iyimserliğini koruyor.

Başlangıçta odaklandığı konu olan yapay zekanın varoluşsal riskleri sorulduğunda, Bostrom artık tartışmanın şu anda “her yerde” olduğunu söylüyor.

Ayrımcılık, mahremiyet ve fikri mülkiyet gibi dikkat edilmesi gereken acil konular olduğunu kabul ediyor. Ancak bu alandaki onlarca yıllık araştırmalarına rağmen, kendisini hala “karanlıkta” hissediyor ve net bir pozisyonu yok.

Bostrom, “Bana öyle geliyor ki, belirli boyutlarda neyin işleri daha iyi ya da daha kötü yaptığını anlamak çok karmaşık ve zor” diyor.

Bostrom’un kurucusu olduğu Oxford Üniversitesi’ndeki İnsanlığın Geleceği Enstitüsü, üniversite bürokrasisiyle yaşanan anlaşmazlıklar nedeniyle kısa süre önce kapatıldı.

Bostrom şimdilik belirli bir gündemi olmayan “özgür bir adam” olarak konuları üzerinde çalışmaya devam etmeyi planlıyor. Görünüşe göre AGI sayesinde iyi vakit geçirecek, AGI olsun ya da olmasın.

Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, X (Twitter), Bluesky, LinkedIn, Instagram ve Whatsapp Kanalımız‘dan takip edin.