Wall Street Journal‘ın haberinin ardından OpenAI, yapay zeka içerik tespiti ile ilgili daha önceki blog yazısını revize ederek filigran tespit cihazının varlığını doğruladı.
Algılayıcı, parafrazlama gibi küçük metin değişikliklerini algılamada mükemmel olsa da çeviriler, farklı yapay zeka modelleri kullanılarak yeniden yazmalar veya kelimeler arasına özel karakterlerin eklenmesi ve kaldırılması gibi büyük değişikliklerde zorluk çekiyor.
Sonuç olarak, OpenAI’ye göre bu, dedektörü atlatmayı “basit” hale getiriyor. Şirket ayrıca, ChatGPT’yi yazılarını geliştirmek için kullanan ana dili İngilizce olmayan konuşmacılar gibi belirli grupları haksız yere hedef alabileceği endişelerinden de bahsediyor.
Filigranlama yönteminin tek tek metinler için düşük bir yanlış pozitif oranı olmasına rağmen, bunu büyük hacimli içeriklere uygulamak genel olarak önemli sayıda yanlış tanımlamaya yol açacak.
OpenAI, metnin kökenini doğrulamanın alternatif bir yöntemi olarak meta verileri araştırıyor. Bu araştırma “keşfin erken aşamalarında” ve etkinliği henüz görülmedi. OpenAI’ye göre meta veriler, filigranların aksine kriptografik olarak imzalanabildiği ve yanlış pozitifleri ortadan kaldırdığı için umut verici.
OpenAI, daha yüksek riskli olarak gördüğü görsel-işitsel içeriklere odaklandığını söylüyor. Güncellenen DALL-E 3 görüntü kaynağı C2PA tabanlı sistemi artık AI tarafından oluşturulan görüntülerin oluşturulduktan sonra düzenlenip düzenlenmediğini ve nasıl düzenlendiğini izliyor.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, X (Twitter), Bluesky, LinkedIn, Instagram ve Whatsapp Kanalımız‘dan takip edin.
