Çocuk istismarı ve teknoloji konusunda uzman bir grup, İngiliz okullarındaki çocukların diğer çocukların uygunsuz görüntülerini oluşturmak için yapay zeka (AI) kullandıkları uyarısında bulundu.
The Gurdian’ın haberine göre, uzmanlar, bazı okullarda ilk kez öğrencilerin yapay zeka teknolojisini kullanarak yasal olarak çocuk cinsel istismarı materyali teşkil eden çocuk görüntüleri oluşturduklarını bildirdiklerini söyledi.
UK Safer Internet Centre (UKSIC) direktörü Emma Hardy, resimlerin “dehşet verici” derecede gerçekçi olduğunu söyledi.
Aynı zamanda İnternet İzleme Vakfı iletişim direktörü olan Hardy, şunları söyledi:
“Gördüğümüz görüntülerin kalitesi, ülkenin dört bir yanındaki okullarda çocukların her yıl çekilen profesyonel fotoğraflarıyla karşılaştırılabilir. Yapay zeka tarafından üretilen çocuk görüntülerinin foto-gerçekçi doğası, bazen gördüğümüz çocukların daha önceki cinsel istismar mağdurları olarak tanınabileceği anlamına geliyor. Çocuklar bu görüntülerin internette yayılabileceği ve yabancılar ve cinsel istismarcılar tarafından görülebileceği konusunda uyarılmalı. Bu teknolojinin kötüye kullanılma potansiyeli dehşet verici.”
Bir çocuk koruma kuruluşu olan UKSIC, okulların çocuk istismarı materyallerine karşı daha iyi engelleme sistemleri kurmak için acilen harekete geçmeleri gerektiğini söylüyor. UKSIC, şunları kaydediyor:
Çocukların bu görüntüleri çektiğine dair gördüğümüz raporlar sürpriz olmamalı. Yapay zeka jeneratörleri gibi yeni teknolojiler halk için daha erişilebilir hale geldiğinde bu tür zararlı davranışlar beklenmelidir. Çocuklar, neden olabilecekleri zararı tam olarak takdir etmeden yapay zeka görüntü oluşturucularının potansiyelini keşfediyor olabilirler. Vaka sayıları az olsa da, henüz yolun başındayız ve okullar bunalmadan ve sorun büyümeden önce adımların atıldığını görmemiz gerekiyor.”
Birleşik Krallık’ta çocukların cinsel istismarına ilişkin görüntüler (ister yapay zeka tarafından üretilmiş ister fotoğrafik olsun) yasadışıdır; çizgi film ya da diğer daha az gerçekçi tasvirlerin bile yapılması, bulundurulması ve dağıtılması hala yasadışı kabul ediliyor.
Geçtiğimiz ay İnternet İzleme Vakfı, yapay zeka tarafından üretilen çocuk cinsel istismarı görüntülerinin “interneti boğma tehdidi” taşıdığı konusunda uyarıda bulunmuş ve bu görüntülerin birçoğunun artık eğitimli analistler için bile gerçek görüntülerden ayırt edilemeyecek kadar gerçekçi olduğunu belirtmişti.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, Twitter, LinkedIn ve Instagram‘da takip edin.
