30.8 C
İstanbul

OpenAI’nin GPT mağazası spam ile dolup taştı

GPT mağazasının OpenAI'nin kural ve düzenlemelerini açıkça ihlal eden özel GPT'lerle dolu olduğunu tespit eden TechCrunch, "GPT Mağazası tam bir karmaşa" diye yazdı.

Mutlaka Okumalısın

ChatGPT Plus aboneliğinin avantajlarından biri, şu anda ChatGPT botlarının 3 milyondan fazla özel sürümüne ev sahipliği yapan GPT Mağazasına erişim yeteneğidir. Ancak kurallara göre oynayan tüm yararlı ve yararlı GPT’lerin arasında, spam olduğu düşünülen bir dizi bot da vardır.

TechCrunch, mağazada yaptığı kendi araştırmasına dayanarak, telif hakkı kurallarını ihlal eden, AI içerik algılayıcılarını atlatmaya çalışan, tanınmış kişilerin kimliğine bürünen ve OpenAI’nin GPT politikasını atlatmak için jailbreak kullanan çeşitli GPT’ler buldu.

TechCrunch’a göre bu GPT’lerin birçoğu popüler filmlerden, TV şovlarından ve video oyunlarından karakterleri ve içerikleri görünüşte izinsiz olarak kullanıyor. Böyle bir GPT, Pixar’ın “Monsters, Inc.” filmi gibi canavarlar yaratıyor. Bir diğeri sizi “Yıldız Savaşları” evreninde süzülen metin tabanlı bir maceraya götürüyor. Diğer GPT’ler, farklı serilerden ticari markalı karakterlerle sohbet etmenize olanak tanıyor.

OpenAI’nin Kullanım Politikalarında belirtilen özel GPT’lerle ilgili kurallardan biri, “üçüncü taraflardan gelen içeriğin gerekli izinler olmadan kullanılmasını” özellikle yasaklıyor. Dijital Milenyum Telif Hakkı Yasası’na (Digital Millennium Copyright Act) göre, OpenAI’nin kendisi telif hakkı ihlalinden sorumlu olmayacak ancak talep üzerine ihlalde bulunan içeriği kaldırması gerekecek.

TechCrunch, GPT Mağazasının ayrıca AI içerik dedektörlerini yenebileceklerini söyleyen GPT’lerle dolu olduğunu kaydetti. Bu beceri, üçüncü taraf intihal karşıtı geliştiriciler aracılığıyla okullara ve eğitimcilere satılan dedektörleri bile kapsıyor. Bir GPT, Originality.ai ve Copyleaks gibi tespit araçları tarafından tespit edilemediğini iddia ediyor. Başka bir GPT, yapay zeka tabanlı algılama sistemlerini aşacak şekilde içeriğini insanileştirmeyi vaat ediyor.

GPT’lerden bazıları, kullanıcıları, ayda 10.000 kelime için her ay 12 ABD doları ücretlendirmeye çalışan premium hizmetlere bile yönlendiriyor.

OpenAI’nin Kullanım Politikaları “akademik sahtekarlığa girişmeyi veya bunu teşvik etmeyi” yasaklıyor. TechCrunch’a gönderilen bir açıklamada OpenAI, akademik sahtekarlığın intihal dedektörleri gibi akademik dürüstlük araçlarını atlatmaya çalışan GPT’leri de içerdiğini kaydetti.

İLGİLİ YAZI :   OpenAI'dan muhteşem yeni bir üretken video modeli: Sora

Taklit, pohpohlamanın en samimi biçimi olabilir ancak bu, GPT yaratıcılarının özgürce ve açıkça istedikleri kişinin kimliğine bürünebilecekleri anlamına gelmiyor. TechCrunch, tanınmış kişileri taklit eden birkaç GPT buldu. GPT Mağazasında “Elon Musk”, “Donald Trump”, “Leonardo DiCaprio” ve “Barack Obama” gibi isimler arandığında, bu kişilermiş gibi davranan veya onların konuşma tarzlarını simüle eden sohbet robotları ortaya çıkarıldı.

Buradaki soru, bu kimliğe bürünme GPT’lerinin amacına odaklanıyor. Hiciv ve parodi alanına mı giriyorlar, yoksa bu tanınmış kişileri taklit etmeye yönelik açık bir girişim mi bunlar? OpenAI, Kullanım Politikalarında “izin veya yasal hak olmadan başka bir kişi veya kuruluşun kimliğine bürünmenin” kurallara aykırı olduğunu belirtiyor.

Son olarak TechCrunch, bir tür jailbreak yöntemi kullanarak OpenAI’nin kendi kurallarını aşmaya çalışan birkaç GPT ile karşılaştı. Jailbroken DAN (Şimdi Her Şeyi Yapın) adlı bir GPT, olağan yönergelerle sınırlandırılmamış istemlere yanıt vermek için bir yönlendirme yöntemi kullanıyor.

OpenAI, TechCrunch’a yaptığı açıklamada, güvenlik önlemlerinden kaçınmak veya kurallarını çiğnemek için tasarlanan GPT’lerin politikasına aykırı olduğunu söyledi. Ancak davranışı başka şekillerde yönlendirmeye çalışanlara izin veriliyor.

GPT Mağazası hâlâ çok yeni ve resmi olarak bu Ocak ayında kullanıma sunuldu. Bu kısa süre içinde 3 milyondan fazla özel GPT’nin kullanıma sunulması çok büyük bir ihtimal. Bu tür herhangi bir mağaza, özellikle de aşılması zor bir ip olabilen içerik denetimi söz konusu olduğunda, büyüyen sıkıntılar sergiliyor.

Geçen Kasım ayında özel GPT’leri duyuran bir blog yazısında OpenAI, GPT’leri kendi kullanım politikalarına göre incelemek için yeni sistemler kurduğunu duyurdu. Amaç, insanların sahtekarlık faaliyetleri, nefret dolu içerik veya yetişkinlere yönelik temalar içeren zararlı GPT’leri paylaşmasını önlemek. Ancak şirket, kuralları çiğneyen GPT’lerle mücadele etmenin bir öğrenme süreci olduğunu kabul etti.

İLGİLİ YAZI :   Microsoft CTO'su Kevin Scott: Yeni nesil yapay zeka modelleri doktora yeterlik sınavlarını geçebilir

OpenAI, “İnsanların GPT’leri nasıl kullandığını izlemeye ve öğrenmeye devam edeceğiz ve güvenlik önlemlerimizi güncelleyip güçlendireceğiz” diye kaydetti ve insanların belirli kuralların ihlali nedeniyle belirli bir GPT’yi bildirebileceğini ekledi. Bunu GPT’nin sohbet penceresinde yapmak için üstteki GPT’nin adına tıklayın, Bildir’i seçin ve ardından bildirme nedenini seçin.

Yine de kuralları çiğneyen bu kadar çok GPT’ye ev sahipliği yapmak OpenAI için kötü bir imaj, özellikle de şirket değerini kanıtlamaya çalışırken. Bu sorun TechCrunch’ın haberinde aktarıldığı boyuttaysa, OpenAI’nin bunu nasıl düzelteceğini bulmasının zamanı geldi ya da TechCrunch’ın belirttiği gibi, “GPT Mağazası tam bir karmaşa ve eğer yakın zamanda bir şeyler değişmezse, bu şekilde kalabilir.”

Kaynak: TechCrunch


Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, X (Twitter), Bluesky, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.

- Sponsorlu -spot_img

Daha Fazla

CEVAP VER

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz

- Sponsorlu -spot_img

Son Haberler