Yapay zeka araştırmacıları tarafından kaleme alınan açık bir mektup, deepfake’lerin tehlikeleri konusunda uyarıda bulunuyor ve hükümetlere bunların yayılmasını engellemek için tüm değer zinciri boyunca yükümlülükler getirmeleri çağrısında bulunuyor.
Mektupta deepfake çocuk pornografisinin suç sayılması, zararlı deepfake’lerin bilerek yaratılması ya da dağıtılmasına cezai yaptırımlar getirilmesi ve yazılım geliştiricileri ile dağıtımcılarının ürünlerini zararlı deepfake’lerin yaratılmasına karşı koruma yükümlülüğü getirilmesi çağrısında bulunuluyor.
İmzacılar, 2019 ve 2023 yılları arasında deepfake sayısının yüzde 550 oranında artması da dâhil olmak üzere çeşitli araştırma ve raporlardan elde edilen rakamlara atıfta bulunarak endişelerinin aciliyetini vurgulamaktadır.
Deepfake pornografi tek başına internetteki tüm deepfake videoların yüzde 98’ini oluşturuyor ve kurbanların yüzde 99’u kadın. Ünlülerin ve politikacıların deepfake dolandırıcılığı ve sahtelerinin de artmakta olduğu belirtilen mektupta, mevcut yasaların deepfake üretimini ve dağıtımını engellemekte yetersiz kaldığı, bunun da internette neyin gerçek olduğunu anlamayı giderek zorlaştırdığı ve kitlesel bir kafa karışıklığına yol açabileceği ifade ediliyor.
Mektupta, “Dünya nüfusunun yarısının yakında seçimle karşı karşıya kalacağı düşünüldüğünde, deepfake’lerin yaygın bir şekilde yaratılması ve çoğaltılması dünya genelinde demokratik süreçler için büyüyen bir tehdittir” deniliyor.
İmzacılar deepfake’leri “makul bir kişinin gerçek sanacağı, rıza dışı ya da büyük ölçüde yanıltıcı yapay zeka tarafından üretilmiş sesler, görüntüler ya da videolar” olarak tanımlıyor. Ayrıca, “zararsız eğlence” veya hiciv olmadığı sürece, eğlence için yapılan sentetik içeriği de kınıyorlar.
Mektupta, “Yayın eğlencesi deepfake’lerle doygun hale gelirse, izleyici ve sanatçılar arasındaki bağlantı aşınacak ve deepfake’ler, eserleri ilk etapta YZ’yi “eğitmek” için kullanılan insanları haksız yere yerinden edecektir” deniyor.
Mektubun yazarları, cihaz üreticileri, yazılım geliştiricileri ve medya şirketlerinin, fotoğraf ve videoların gerçekliğini doğrulamak için kullanılabilecek içerik doğrulama yöntemlerini teşvik etmek ve yaygınlaştırmak için birlikte çalışmasını önermektedir. Yapay zeka şirketleri ve sosyal platformların katıldığı C2PA standardı gibi çabalar halihazırda devam ediyor, ancak soruna bir çözüm getirmekten uzak.
İmzacılar arasında Microsoft araştırmacısı ve “sanal gerçeklik” teriminin mucidi Jaron Lanier; Meta/Facebook ihbarcısı olarak bilinen Frances Haugen; Berkeley’deki California Üniversitesi’nde seçkin bilgisayar bilimleri profesörü Stuart Russell; Forward Party’nin eş başkanı ve 2020 başkan adayı Andrew Yang; Harvard Üniversitesi’nde Johnstone Ailesi Psikoloji Profesörü Steven Pinker ve Turing Ödülü sahibi Yoshua Bengio yer alıyor.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, X (Twitter), Bluesky, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.
