Eurogamer’ın haberine göre, video oyunu seslendirme sanatçısı Amelia Tyler, sesinin bir klonunun tecavüz pornografisi okumak için kullanıldığını söyledi.
“Baldur’s Gate 3” video oyunundaki anlatıcı rolüyle BAFTA adaylığı alan Tyler, yapay zeka tarafından üretilen konuşmayla ilgili çok olumsuz bir deneyim yaşadığını açıkladı. Tyler, kendisinin ve oyundaki diğer oyuncuların seslerinin yapay zeka tarafından rızaları olmadan klonlandığını söyledi.
Bir canlı yayın sırasında Tyler, izleyiciler metni bir metinden sese dönüştürücüye yazdıktan sonra klonlanmış sesinin tecavüz pornografisi okuduğunu duydu. Kendisinin ve diğer birkaç oyuncunun oyunun piyasaya sürülmesinden bu yana bu tür olaylar yaşadığını açıkladı.
Oyun modifikasyonlarından hoşlandığı için oyuncuların kendi seslendirme versiyonlarını kaydetmelerini memnuniyetle karşılasa da Tyler, kendisinin izni olmadan modlar için sesinin kullanılmasının yasadışı olması gerektiğine inanıyor.
Oyuncuların seslerinin rızaları olmadan yapay zeka için kullanılmasının sadece işlerini değil aynı zamanda kimliklerini de çalmak olduğunu savunuyor. Tyler, ilgili kişilerin rızası yoksa bu uygulamanın yasaklanması çağrısında bulunuyor.
Risklere ilişkin çok sayıda kanıt var
OpenAI kısa süre önce ses klon üreticisi “Voice Engine “i kötüye kullanım riskleri nedeniyle şimdilik yayınlamayacağını duyurdu. Ancak bunun pek bir önemi yok çünkü piyasada sadece birkaç saniyelik kaynak sesten ikna edici ses klonları üretebilen açık kaynaklı yazılımlar ve çok sayıda ticari ürün var. Bu yazılımlar için herhangi bir düzenleme yok.
Siber güvenlik araştırmacıları kısa süre önce dolandırıcıların finansal dolandırıcılığı mümkün kılmak için telefon görüşmelerine ses klonları ekleyebildiğini gösterdi. OpenAI’nin ses klonu modelini açıkladığında finans kurumlarını ses doğrulamasını yeniden düşünmeye çağırmasının nedenlerinden biri de budur. Ses klonları aynı zamanda seçmen dolandırıcılığına olanak sağlama riski de taşıyor.
Ses klonlamanın, aktör Val Kilmer gibi ses bozukluğu olan kişilerin orijinal seslerini korumak gibi bazı olumlu kullanımları da vardır. Ancak, genel bir toplumsal perspektiften bakıldığında, yapay zeka ses klonlama teknolojisinin riskleri ve potansiyel zararları faydalarından daha ağır basıyor gibi görünüyor.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, X (Twitter), Bluesky, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.
