Yapay zeka tarafından oluşturulan bir ses, bir avukatın babasını neredeyse kandırarak 30 bin dolarlık sahte kefalet parası ödemesine neden oldu.
Tüketici koruma avukatı Jay Shooster, X’te dolandırıcıların kendisini taklit etmek için bir ses klonu kullandığını ve sarhoşken araba kullanma kazası geçirdikten sonra tutuklandığını iddia ettiğini paylaştı.
Shooster, dolandırıcıların sahteyi oluşturmak için yakın zamanda televizyonda yaptığı bir programdan 15 saniyelik bir ses klibi kullanmış olabileceğine inanıyor. Shooster ailesini bu tür dolandırıcılıklar konusunda uyarmış olsa da, neredeyse buna kanacaklardı.
“Bu dolandırıcılıklar o kadar etkili ki. Lütfen arkadaşlarınıza ve ailenize duyurun” diyen Shooster YZ endüstrisinin daha sıkı bir şekilde düzenlenmesi çağrısında bulundu.
Çalışma, insanların yapay zeka seslerini güvenilir bir şekilde tanıyamayacağını gösteriyor
University College London’da yapılan bir araştırma, insanların dilden bağımsız olarak yapay zeka tarafından oluşturulan sesleri %27 oranında tanımadığını buldu. Tekrarlanan dinleme, tespit oranlarını önemli ölçüde iyileştirmedi.
Bu, teoride, sahte AI seslerini içeren dört telefon dolandırıcılığından birinin başarılı olabileceği anlamına gelir. Araştırmacılar, insan sezgisinin sınırları olduğu için daha iyi otomatik deepfake dedektörlerine olan ihtiyacı vurguluyor.
Ayrı bir deneyde, IBM güvenlik uzmanları “ses korsanlığı”nı gösterdi; yapay zekayı canlı telefon görüşmelerini manipüle etmek ve parayı sahte hesaplara yönlendirmek için kullandı. Araştırmacılar konuşma tanıma, metin oluşturma ve ses klonlama tekniklerini birleştirdi. Teknolojinin ilerlemesiyle birlikte tüketiciler için giderek artan bir risk oluşturduğu konusunda uyarıyorlar. Gelecekteki saldırılar potansiyel olarak canlı görüntülü görüşmeleri de manipüle edebilir.
Ses klonlamanın engelli insanların seslerini korumak gibi bazı olumlu kullanımları olsa da, şu anki riskleri faydalarından daha ağır basıyor gibi görünüyor.
Bu sadece dolandırıcılıkla ilgili değil. Seslendirme sanatçısı Amelia Tyler yakın zamanda YZ klonlanmış sesinin rızası olmadan tecavüz pornografisi okumak için kullanıldığını bildirdi. “Baldur’s Gate 3″teki rolüyle BAFTA’ya aday gösterilen Tyler, izleyiciler bir metin girdikten sonra canlı yayın sırasında klonu duydu.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, X (Twitter), Bluesky, LinkedIn, Instagram ve Whatsapp Kanalımız‘dan takip edin.
