Yeni deepfake demoları artık çevrimiçi videolara güvenemeyeceğimizi gösteriyor

Tıpkı yapay zeka tarafından üretilen fotoğrafların çok gerçekçi görünebilmesi gibi, şimdi de gerçek videodan neredeyse ayırt edilemeyen yapay zeka tarafından üretilen videolar var.

En son deepfake gelişmeleri birkaç gündür X’te dolaşıyor. Önde gelen “dijital avatar” sağlayıcısı HeyGen, yeni özelliği “Avatar in Motion 1.0″ı tanıttı. Bu özellik, çok dilli kişilerin hareket ederken ve elleriyle jest yaparken dudak senkronizasyonunu mümkün kılıyor. Videodaki adam aslen Almanca konuşuyor.

 X aracılığıyla HeyGen

Bu eskiden sadece kamera önünde hareketsiz oturan insanlarda işe yarıyordu. Bu konuşan avatarlar da daha gerçekçi hale geldi. “arcads.ai” ile yapılan bir demoda genç bir kadın konuşuyor ve kameraya el kol hareketleri yapıyor. Kadın gerçek ama videoyu hiç kaydetmemiş.

X aracılığıyla Beck

Video X’te iki ilginç etkiyle viral oldu. Birincisi, pek çok kişi videonun yapay zeka tarafından mı yoksa gerçek mi oluşturulduğu konusunda hemfikir olamadı. Bu da sahte ve gerçek arasındaki çizginin, sözde yapay zeka uzmanları için bile uzun zamandır bulanık olduğunu gösteriyor. İkincisi, hizmete olan talep o kadar yüksekti ki sunucular çöktü.

Bir başka yeni deepfake sağlayıcısı da, aşağıdaki videoda gösterilen şaşırtıcı avatar kalitesini elde etmek için özel bir deepfake modeli geliştirdiğini söyleyen Argil.ai. Ekip, modelinin 4K’ya kadar yüksek kaliteli video üretebildiğini söylüyor.

X aracılığıyla Brivael

Deepfake distopyalar gerçek oluyor

Yeni demolarla birlikte, orijinal deepfake teknolojisini icat eden Ian Goodfellow’un karanlık öngörüsünün gerçekleşeceğine ya da çoktan gerçekleştiğine dair artık hiçbir şüphe kalmadı.

Artık çevrimiçi görüntülere, videolara ve seslere güvenemeyiz. Elbette aynı şey gerçek videolar için de geçerli. Donald Trump kısa süre önce yapay zeka sahtelerinin varlığının her şeyi, hatta videoya yakalanan kendi hatalarını bile sorgulamak için kullanılabileceğini gösterdi.

Bu durum, medya ve gazeteciliğin geleneksel bir rolü olan içeriğin doğrulanması ve güvenilir kanallar oluşturulmasını daha da önemli hale getiriyor. Ancak medya, bu teknolojileri ve içeriği geliştiren ve sunan şirketlere bağımlı olarak, kısmen kendi yarattığı bir kriz içinde.

Tüm bu teknolojik gelişmeler para kazanmak, güç elde etmek ya da ideoloji yaymak için gerçekleri kasıtlı olarak görmezden gelenlerin işine yarıyor. Ve dünya genelinde seçimler yapıldıkça gelişmeler de hızlanıyor.

Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, X (Twitter), Bluesky, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.