Elon Musk, X’te (eski adıyla Twitter) bir yapay zeka tarafından oluşturulan sesin Demokrat ABD başkan adayı Kamala Harris’i taklit ettiği bir video yayınladı. Musk, videonun sahte veya parodi olduğunu belirtmedi.
Video, Harris’in sesini taklit etmek için yapay zekayı kullanıyor ve başkan yardımcısının orijinal videoda söylemediği şeyleri söylemesini sağlıyor. Aldatıcı derecede gerçek sahte Harris sesi, Başkan Biden’ın bunak olduğunu, ülkeyi nasıl yöneteceğini bilmediğini ve bir kadın ve renkli bir kişi olarak “en iyi çeşitlilik işe alımı” olduğunu iddia ediyor.
Sesin yanı sıra görsellerde de değişiklik yapıldı: Eski Başkan Donald Trump ve aday arkadaşı JD Vance’in görüntüleri kaldırılıp yerine Başkan Biden’ın görüntüleri konuldu.
Videonun yaratıcısı, X kullanıcısı “@MrReaganUSA”, orijinal gönderisinde bunu bir “reklam parodisi” olarak etiketledi. Ancak Musk, videoyu parodi uyarısı olmadan paylaştı ve “Bu harika” dedi ve ardından bir gülen emoji ekledi. Videonun şu ana kadar 100 Milyondan fazla görüntülenmeye ulaştı.
Videonun, “önemli ve aldatıcı şekilde değiştirilmiş, manipüle edilmiş veya üretilmiş” sentetik medyanın işaretlenmesi veya kaldırılması gerektiğini belirten X’in yönergelerini ihlal ettiği anlaşılıyor.
Bu kural, “kamu sorunlarıyla ilgili yaygın bir karışıklığa yol açması, kamu güvenliğini etkilemesi veya ciddi zarara yol açması muhtemel” videolar için geçerli ve özellikle videolar yapay zeka algoritmaları aracılığıyla manipüle edilmişse uygulanması amaçlandı. “@MrReaganUSA”, X’te Kamala Harris’in sesini klonlamak için yapay zeka kullandığını doğruladı.
Yapay zekanın medyayı manipüle etmesi, özellikle kamuoyunu etkilemek için, sıklıkla mevcut yapay zeka teknolojilerinin büyük bir riski olarak gösteriliyor. Ses ve görsel içeriğe olan güveni zayıflatıyor.
X henüz videoya yanıt vermedi. Musk’ın gönderisi, X’in kullanıcı odaklı gerçek kontrol sistemi olan “Topluluk Notları” aracılığıyla görünür bir şekilde düzeltilmedi ve Musk’ın kendisi deepfake’i paylaşma eleştirilerine kamuoyu önünde yanıt vermedi.
New York Times’ın bir haberinin ardından “@MrReaganUSA”, gönderiyi açıkça bir parodi olarak işaretlediğini yazdı. Elon Musk’ın, bariz hiciv nedeniyle bunun gerçek bir kampanya reklamıyla karıştırılabileceğini bile düşünmediğine inanıyor.
Yapay zeka ses deepfake’leri son bir yılda hızla ilerledi. Birçok ticari ve açık kaynaklı araç artık belirli bir kişinin sesinde verilen metni tekrarlayan gerçekçi ses klonları oluşturabilir.
Ses klonlamanın, sesini kaybedenlere yardım etmek gibi bazı olumlu kullanımları olsa da, kötüye kullanım potansiyeli çok daha büyük görünüyor. Harris örneği bunun sadece bir kanıtı.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, X (Twitter), Bluesky, LinkedIn, Instagram ve Whatsapp Kanalımız‘dan takip edin.
