McAfee, tüketicileri sahte haberler ve diğer planlarla dolandırmak için ses kullanan yapay zeka tarafından üretilen deepfake’leri tespit etmenin bir yolu olarak Project Mockingbird‘ü tanıttı.
McAfee, yapay zeka tarafından üretilen dolandırıcılıkların yarattığı artan tehditle mücadele etmek amacıyla Project Mockingbird olarak adlandırılan yapay zeka destekli Deepfake Audio Detection teknolojisini yarattı.
Las Vegas’taki büyük teknoloji fuarı CES 2024’te tanıtılacak bu yenilikçi teknoloji, tüketicileri dolandırıcılık yapmak ve kamuoyu algısını manipüle etmek için manipüle edilmiş, yapay zeka tarafından oluşturulmuş ses kullanan siber suçlulardan korumayı amaçlıyor.
McAfee CTO’su Steve Grobman, “McAfee, tüketicileri dijital yaşamlarını etkileyen tehditlerden korumakla ilgileniyor. Bunu geleneksel olarak kötü amaçlı yazılımları tespit ederek ve insanların tehlikeli web sitelerine girmesini engelleyerek yaptık” dedi. Grobman. “Açıkçası, üretken yapay zeka ile birlikte, siber suçlulara, kötü aktörlere, çok çeşitli dolandırıcılıklar oluşturmak için üretken yapay zekayı kullanan çok hızlı bir dönüş görmeye başlıyoruz” diye konuştu ve şöyle devam etti:
“Seçim döngüsüne doğru ilerlerken, meşru siyasi kampanya içeriği oluşturmanın yanı sıra dezenformasyon için çeşitli biçimlerde üretken yapay zekanın kullanılmasını bekliyoruz. Bu nedenle McAfee olarak son birkaç yıldır çeşitli ürünlerimizde ve arka uç teknolojilerimizde bu yetenekleri tespit edebilecek doğru teknolojiye sahip olduğumuzdan emin olmak için yatırımlarımızı artırdık ve bu sayede müşterilerimiz bir videonun gerçek olup olmadığı, güvenmek isteyecekleri bir şey olup olmadığı ya da daha dikkatli olmaları gereken bir şey olup olmadığı konusunda daha bilinçli kararlar verebilecekler.”
“CES’te duyuracağımız şey, geliştirdiğimiz bazı yeni teknolojilerimizin halka açık ilk tanıtımları olacak” diyen Grobman şunları söyledi:
“Tüm alanlarda çalışıyoruz. Yani görüntü algılama, video algılama, metin algılama teknolojileri üzerinde çalışıyoruz. Son zamanlarda en çok yatırım yaptığımız alanlardan biri de derin sahte ses. Bunun nedenlerinden biri de, sahte içerik oluşturan bir düşmanı düşünürseniz, sesin geldiği kişi olması gerekmeyen her türlü videoyu kullanmak için çok fazla seçenek olması. Birinin konuştuğu ve video ile sesin senkronize edildiği klasik deepfake vardır. Ancak görüntüde anlatıcı olmayan başka bir video olduğunda ses parçasının rulonun üstünde veya başka bir videonun üstünde olması için pek çok fırsat var.”
Project Mockingbird, konuşulan kelimeleri dinleyerek sesin gerçekten insana ait olup olmadığını tespit ediyor. Bu, ikna edici derin sahtecilikler yaratmak için üretken yapay zeka kullanma eğilimiyle mücadele etmenin bir yolu.
Porno videolarda ünlülerin deepfake’lerini oluşturmak bir süredir sorun teşkil ediyor ancak bunların çoğu deepfake video siteleriyle sınırlı. Tüketicilerin bu tür dolandırıcılıklardan kaçınması nispeten kolaydır. Ancak Grobman, deepfake ses hilelerinde sorunun daha sinsi olduğunu söyledi. Sosyal medyadaki paylaşımlarda bu deepfake ses dolandırıcılıklarından bolca bulabilirsiniz, dedi. Grobman, 2024 ABD Başkanlık seçimleri yaklaşırken bu sahte ses dolandırıcılıklarının artmasından özellikle endişe duyuyor.
Yapay zeka alanındaki gelişmelerin artması, siber suçluların aldatıcı içerik oluşturmasını kolaylaştırarak manipüle edilmiş ses ve videolardan yararlanan dolandırıcılıkların artmasına neden oldu. Bu aldatmacalar, para talep eden sevdiklerinin kimliğine bürünmek için ses klonlamadan, değiştirilmiş sesle gerçek videoları manipüle etmeye kadar uzanıyor ve tüketicilerin dijital alemde gerçekliği ayırt etmesini zorlaştırıyor.
McAfee Labs, tüketicilerin gerçek içerikleri manipüle edilmiş içeriklerden ayırt etme konusundaki acil ihtiyacını öngörerek, yapay zeka tarafından üretilen sesleri tespit edebilen sektör lideri bir yapay zeka modeli geliştirdi. Yapay zeka destekli bağlamsal, davranışsal ve kategorik algılama modellerinin bir karışımını kullanan Project Mockingbird, videolardaki kötü niyetle değiştirilmiş sesleri tanımlama ve bunlara karşı koruma sağlamada %90’ın üzerinde etkileyici bir doğruluk oranına sahip.
Grobman, deepfake’lerle mücadele eden teknolojinin önemli olduğunu söyledi ve bunu bireylerin dijital etkileşimlerinde bilinçli kararlar vermelerine yardımcı olan bir hava tahminine benzetti. Grobman, McAfee’nin yeni yapay zeka tespit yeteneklerinin, kullanıcıların dijital ortamlarını anlamalarını ve çevrimiçi içeriğin gerçekliğini doğru bir şekilde ölçmelerini sağladığını belirtti.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, Twitter, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.
