20.7 C
İstanbul

Düzenleme yapılmazsa yapay zeka ses klonları büyük risk oluşturuyor

Video oyunu seslendirme sanatçısı Amelia Tyler, kendisinin ve "Baldur's Gate 3 "teki diğer oyuncuların sesinin rızası olmadan bir yapay zeka tarafından klonlandığını ve tecavüz pornosunda kullanıldığını söylüyor.

Mutlaka Okumalısın

Eurogamer’ın haberine göre, video oyunu seslendirme sanatçısı Amelia Tyler, sesinin bir klonunun tecavüz pornografisi okumak için kullanıldığını söyledi.

“Baldur’s Gate 3” video oyunundaki anlatıcı rolüyle BAFTA adaylığı alan Tyler, yapay zeka tarafından üretilen konuşmayla ilgili çok olumsuz bir deneyim yaşadığını açıkladı. Tyler, kendisinin ve oyundaki diğer oyuncuların seslerinin yapay zeka tarafından rızaları olmadan klonlandığını söyledi.

Bir canlı yayın sırasında Tyler, izleyiciler metni bir metinden sese dönüştürücüye yazdıktan sonra klonlanmış sesinin tecavüz pornografisi okuduğunu duydu. Kendisinin ve diğer birkaç oyuncunun oyunun piyasaya sürülmesinden bu yana bu tür olaylar yaşadığını açıkladı.

Oyun modifikasyonlarından hoşlandığı için oyuncuların kendi seslendirme versiyonlarını kaydetmelerini memnuniyetle karşılasa da Tyler, kendisinin izni olmadan modlar için sesinin kullanılmasının yasadışı olması gerektiğine inanıyor.

Oyuncuların seslerinin rızaları olmadan yapay zeka için kullanılmasının sadece işlerini değil aynı zamanda kimliklerini de çalmak olduğunu savunuyor. Tyler, ilgili kişilerin rızası yoksa bu uygulamanın yasaklanması çağrısında bulunuyor.

Risklere ilişkin çok sayıda kanıt var

OpenAI kısa süre önce ses klon üreticisi “Voice Engine “i kötüye kullanım riskleri nedeniyle şimdilik yayınlamayacağını duyurdu. Ancak bunun pek bir önemi yok çünkü piyasada sadece birkaç saniyelik kaynak sesten ikna edici ses klonları üretebilen açık kaynaklı yazılımlar ve çok sayıda ticari ürün var. Bu yazılımlar için herhangi bir düzenleme yok.

Siber güvenlik araştırmacıları kısa süre önce dolandırıcıların finansal dolandırıcılığı mümkün kılmak için telefon görüşmelerine ses klonları ekleyebildiğini gösterdi. OpenAI’nin ses klonu modelini açıkladığında finans kurumlarını ses doğrulamasını yeniden düşünmeye çağırmasının nedenlerinden biri de budur. Ses klonları aynı zamanda seçmen dolandırıcılığına olanak sağlama riski de taşıyor.

Ses klonlamanın, aktör Val Kilmer gibi ses bozukluğu olan kişilerin orijinal seslerini korumak gibi bazı olumlu kullanımları da vardır. Ancak, genel bir toplumsal perspektiften bakıldığında, yapay zeka ses klonlama teknolojisinin riskleri ve potansiyel zararları faydalarından daha ağır basıyor gibi görünüyor.

İLGİLİ YAZI :   Amazon, AI Ready ile 2025 yılına kadar 2 milyon kişiye ücretsiz yapay zeka eğitimi verecek

Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, X (Twitter), Bluesky, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.

- Sponsorlu -spot_img

Daha Fazla

CEVAP VER

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz

- Sponsorlu -spot_img

Son Haberler