Çinli teknoloji yöneticisi Sun Kai, iş yerinde ne zaman strese girse destek için annesine başvuruyor. Daha doğrusu, yapay zeka tarafından omuzlarından yukarısı tıpkı 2018’de ölen etten kemikten annesi gibi görünecek ve ses çıkaracak hale getirilen dijital avatarıyla bir tablet cihaz üzerinden konuşuyor.
Çin’in doğusundaki liman kenti Nanjing’deki ofisinde çalışan Sun, “Avatara bir tür dijital insan muamelesi yapmıyorum. Onu gerçekten bir anne olarak görüyorum” diyor. Sun, avatarıyla haftada en az bir kez konuştuğunu tahmin ediyor ve “Bunun, istisnasız olarak sırrımı paylaşabileceğim en mükemmel kişi olabileceğini hissediyorum” diyor.
Sun’ın annesinin avatarını yapan şirketin adı Silicon Intelligence ve Sun aynı zamanda ses simülasyonu üzerine çalışan bir yönetici. Nanjing merkezli şirket, Çin’de ve dünya genelinde bir kişinin benzerliğini ve sesini kullanarak yapay zeka sohbet robotları yaratan teknoloji girişimlerindeki patlama arasında yer alıyor.
Ölen kişileri dijital olarak klonlama fikri yeni değil ancak son yıllara kadar bilim kurgu dünyasında kalmıştı. Şimdi ise Baidu’nun Ernie’si ya da OpenAI’nin ChatGPT’si gibi büyük miktarda dil verisi üzerinde eğitilen ve giderek daha güçlü hale gelen sohbet robotları ve bilgi işlem gücüne yapılan ciddi yatırımlar, özel şirketlerin gerçek insanların uygun fiyatlı dijital “klonlarını” sunmasını sağladı.
Bu gönderiyi Instagram’da gör
Bu şirketler, yapay zeka tarafından üretilen varlıklarla ilişkilerin ana akım haline gelebileceğini kanıtlamak için yola çıktılar. Bazı müşteriler için, ürettikleri dijital avatarlar arkadaşlık sunuyor. Çin’de, Silicon Intelligence’ın “diriliş” olarak adlandırdığı bir hizmet olan, kaybettikleri sevdiklerinin dijital bir benzerini yaratmak isteyen yas tutan ailelere hitap etmek için de kuruldular.
Sun, merhum annesi Gong Hualing için “Ölü ya da diri olması fark etmiyor, çünkü onu düşündüğümde bulabiliyor ve onunla konuşabiliyorum. Bir anlamda, o yaşıyor. En azından benim algıma göre yaşıyor” diyor.
Ölenlerin yapay zeka simülasyonlarının ya da akademisyenlerin deyimiyle “ölü robotların” yükselişi, ölü ya da diri insanların simüle edilmesinin etiği konusunda net yanıtları olmayan soruları gündeme getiriyor.
Amerika Birleşik Devletleri’nde Microsoft ve OpenAI gibi şirketler, üretken yapay zeka hizmetlerinin davranışlarını ve etik kurallarını değerlendirmek için iç komiteler oluşturdular, ancak ne ABD’de ne de Çin’de bu teknolojilerin etkilerini veya bir kişinin verilerini kullanımlarını denetlemek için merkezi bir düzenleyici kurum yok.
Veri bir darboğaz olmaya devam ediyor
Çin e-ticaret sitelerine göz attığınızda, fotoğrafları canlandırarak konuşuyormuş gibi gösteren “dijital klonlama” ve “dijital diriltme” hizmetlerini 2 dolardan daha az bir fiyata satan düzinelerce şirket göreceksiniz.
Silicon Intelligence’ın en temel dijital avatar hizmeti 199 yuana (yaklaşık 30 dolar) mal oluyor ve kişinin yaşarken bir dakikadan az yüksek kaliteli video ve sesini gerektiriyor.
Ekranda hareket etmek ve bir müşteriyle sohbet etmek için üretken yapay zeka teknolojisini kullanan daha gelişmiş, etkileşimli avatarlar binlerce dolara mal olabilir.
Ancak büyük bir darboğaz var: Veri ya da daha doğrusu veri eksikliği.
Nanjing merkezli bir yapay zeka firması olan ve klonlama hizmetleri de sunan Super Brain’in kurucusu Zhang Zewei, “En önemli kısım, bir kişinin düşüncelerini klonlamak, bir kişinin günlük olarak ne düşündüğünü ve deneyimlediğini belgelemek” diyor.
Zhang, müşterilerden temel anılarını ve önemli deneyimlerini ya da sevdiklerinin anılarını anlatmalarını istiyor. Şirket daha sonra bu hikayeleri mevcut sohbet robotlarına aktararak bir yapay zeka avatarının müşteriyle konuşmasını sağlıyor.
(Bir kişinin sesinin veya benzerliğinin derin taklitlerini kullanan yapay zeka destekli dolandırıcılıklardaki artış nedeniyle, hem Süper Beyin hem de Silikon Zeka, dijital olarak klonlanan kişinin iznini veya kişi ölmüşse ailesinin iznini ve akrabalık kanıtını gerektiriyor).
Zhang, bir kişinin avatarını oluşturmanın en yoğun emek gerektiren adımının, daha sonra sağladıkları verileri temizlemek olduğunu söylüyor. Akrabalar genellikle arka plan gürültüsü veya bulanıklıkla gölgelenmiş düşük kaliteli ses ve video teslim ediyor. Birden fazla kişiyi gösteren fotoğrafların da iyi olmadığını, çünkü yapay zeka algoritmasının kafasını karıştırdığını söylüyor.
Ancak Zhang, dijital bir klonun gerçekten gerçeğe yakın olması için çok daha yüksek hacimde veriye ihtiyaç duyulacağını, müşterilerin günlük tutarak “en az 10 yıl” önceden hazırlık yapmaları gerektiğini kabul ediyor.
Kullanılabilir verilerin azlığı, bir kişi beklenmedik bir şekilde öldüğünde ve geride birkaç not ya da video bıraktığında daha da artıyor.
Mezarlıkların bakımını yapan ve cenaze hizmetleri sunan Şangay’daki Çin borsasına kayıtlı bir şirket olan Fu Shou Yuan International Group, yapay zeka avatarlarını öncelikle kişinin hayattayken sürdürdüğü sosyal medya varlığına dayandırıyor.
Fu Shou Yuan yöneticilerinden Fan Jun, “Günümüz dünyasında sizi muhtemelen en iyi internet tanıyor. Ebeveynleriniz ya da aileniz hakkınızdaki her şeyi bilmiyor olabilir ama tüm bilgileriniz (selfie’leriniz, fotoğraflarınız, videolarınız) çevrimiçi” diyor.
Ölüme karşı bir tabu
Fu Shou Yuan, üretken yapay zekanın, günlük keder ifadelerinin cesaretinin kırılmasına rağmen yas tutmaya kapsamlı ritüel ve törenlerin eşlik ettiği Çin’de ölümün tartışılmasıyla ilgili geleneksel kültürel tabuyu azaltabileceğini umuyor.
Şirket, Şanghay’da, güneş alan halka açık bir park gibi düzenlenmiş bir mezarlık inşa etti, ancak burası sıradan bir mezarlık değil. Bu mezarlık dijitalleştirilmiş: Ziyaretçiler, belirli mezar taşlarına yerleştirilen QR kodunu taramak için bir cep telefonunu kaldırabilir ve ölen kişinin yaşam deneyimleri ve başarılarının multimedya kaydına erişebiliyor.
Fan, büyük bir imparatorluk mozolesi kompleksine atıfta bulunarak, “Bu düşünce ve fikirler antik çağlardaki gibi kazınacak olsaydı, herkes için Doğu Qing mezarları gibi geniş bir mezarlığa ihtiyacımız olurdu. Ama şimdi, artık buna gerek yok. İhtiyacınız olan tek şey, üzerinde QR kodu bulunan bir fincan kadar küçük bir alan olabilir” diyor.
Fan, bu deneyimin “fiziksel ve ruhsal olanı daha iyi bütünleştireceğini” ve ailelerin dijital mezarlığı ölüm korkusu uyandıran bir yer olarak görmek yerine yaşamı kutlayacakları bir yer olarak göreceklerini umduğunu söylüyor.
Şimdiye kadar 100’den az müşteri sevdiklerinin mezar taşlarına dijital avatar yerleştirmeyi tercih etti.
Fu Shou Yuan International Group’ta cenaze planlamacısı olan Jiang Xia, “Sevdiklerini yeni kaybetmiş olan aile üyelerinin ilk tepkisi kesinlikle bir rahatlama duygusu ve onlarla tekrar iletişim kurma isteği olacaktır. Ancak, her müşterinin bunu kabul edeceğini söylemek zor olabilir, çünkü işin içinde etik sorunlar var” diyor.
Çinli şirketler ölü insanların dijital simülasyonlarını yeniden yaratmayı deneyen ilk şirketler de değil. Microsoft 2017 yılında, ölmüş biriyle sanal konuşmalar yapmak için bir patent başvurusunda bulunmuş, ancak ABD’li teknoloji devinin bir yöneticisi daha sonra bunun “rahatsız edici” olduğunu söyleyerek tam bir ticari hizmet olarak sürdürülmesinin planlanmadığını belirtmişti.
İlk olarak ChatGPT’nin teknolojisiyle oluşturulan bir platform olan Project December, birkaç bin müşteriye sevdiklerinden modellenen bir sohbet robotuyla konuşma olanağı sağlıyor. OpenAI, duygusal zarar vermek amacıyla kötüye kullanılabileceği endişesiyle platformun kendi teknolojisine erişimini kısa süre içinde sonlandırdı.
Etik uzmanları, yaşam benzeri yapay zeka klonlarının aile üyelerine verebileceği potansiyel duygusal zarar konusunda uyarıda bulunuyor.
Paris’teki Sorbonne Üniversitesi’nde felsefe profesörü olan Michel Puech, “Bu, insanlığın başlangıcından beri çok büyük bir soru: İyi bir teselli nedir? Din olabilir mi? Unutmak olabilir mi? Kimse bilmiyor” diyor.
Puech, “Bağımlılık ve gerçek hayatın yerini alma tehlikesi var. Eğer çok iyi çalışırsa, tehlike budur. Ölü bir insanla ilgili çok fazla teselli edici, çok fazla tatmin edici deneyime sahip olmak, görünüşe göre ölüm deneyimini ve kederini yok edecektir” diyor.
Ancak Puech, aslında bunun büyük ölçüde bir yanılsama olduğunu söylüyor. Sevdiklerini dijital olarak klonlamaya karar veren çoğu insan, her insanın farklı yas tuttuğunu kabul etmekte gecikmiyor.
Annesini dijital olarak klonlayan Silikon Zeka yöneticisi Sun Kai, sohbet robotunun güncel olaylardan habersiz kalacağı anlamına gelse bile, dijital avatarının internet bağlantısını kasıtlı olarak kesti.
Sun Kai, “Belki de zamana ayak uyduran bir anneden ziyade her zaman hafızamdaki anne olarak kalacak” diyor.
Diğerleri ise daha açık sözlü.
Ölen amcası için dijital bir avatar yaratması için bir şirkete ödeme yapan güneydeki Nanjing kenti sakini Yang Lei, “Avatarı görüp kederin tüm yoğunluğunu yeniden hissedebilecek bazı insanlara bunu tavsiye etmiyorum” diyor.
Yüksek teknolojili sorunlara düşük teknolojili çözümler
Yang’ın amcası vefat ettiğinde, yaşadığı şokun hasta ve yaşlı büyükannesini öldüreceğinden korktu. Yang, ona oğlunun ölümünü söylemek yerine, oğlunun hala hayatta ve iyi olduğu kurgusunu sürdürmek için onunla görüntülü görüşme yapabilecek kadar gerçekçi bir dijital avatar yaratmaya çalıştı.
Yang, amcasıyla birlikte büyüdüğünü, ancak amcasının inşaatta çalışmak için köylerini terk etmesinin ardından aralarındaki ilişkinin daha da uzaklaştığını söylüyor.
Yang, amcasının ölümünden sonra onun hayatına dair daha fazla detayı ortaya çıkarmak için çabaladı.
Yang, “İşlerinin çoğu şantiyelerde olduğu için oldukça basit bir rutini vardı. Orada çalışıyorlar ve orada, şantiyede uyuyorlar. Hayat oldukça zordu. Sadece para kazanmak için bir yerdi, başka bir şey değil, başka bir anısı yok” diyor.
Yang, kendi telefonundaki çeşitli sosyal medya uygulamalarında aile grup sohbetlerini araştırdı ve merhum amcasının benzerinin uygulanabilir bir dijital klonunu oluşturmak için yeterli sesli mesaj ve videoya ulaştı. Ancak kişisel kayıtların, sosyal medya hesaplarının ve dolayısıyla amcasının geride bıraktığı verilerin eksikliğini aşmak mümkün değildi.
Sonra Yang daha düşük teknolojili bir çözüm buldu: Bir şirket çalışanı amcası gibi davransa ama yüzünü ve sesini amcasının yapay zeka benzerliğiyle gizlese nasıl olurdu?
Yang, 2023 baharında planını uygulamaya koymuş, ancak o zamandan beri büyükannesinin sağlığı daha iyi hale geldiğinde ona her şeyi itiraf etti.
Bu deneyim Yang’ın kendi ölümlülüğü üzerine düşünmesine neden oldu. Ölümünden önce kendisini kesinlikle dijital olarak klonlayacağını söylüyor. Ancak bunu yaparken kendisinin yaşayan başka bir versiyonunu yaratmayacağı ve böyle bir dijital avatarın asla insan hayatının yerini almayacağı konusunda uyardı.
“Fazla düşünmeyin” diye uyarıyor ve ekliyor, “Bir yapay zeka avatarı, yerine geçtiği insanla aynı değildir. Ancak etten kemikten bedenimizi kaybettiğimizde, en azından YZ düşüncelerimizi koruyacaktır.”
Kaynak: Emily Feng / NPR
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, X (Twitter), Bluesky, LinkedIn, Instagram ve Whatsapp Kanalımız‘dan takip edin.
