Microsoft bu hafta düzenlediği geliştirici konferansında yapay zeka yarışına en son katkısını duyurdu: yeni avatarlar ve sesler üretebilen ya da bir kullanıcının mevcut görünümünü ve konuşmasını taklit edebilen bir yazılım; bu yazılımın, gerçekleşmemiş olayların yapay zeka tarafından hazırlanmış videoları olan deepfake’lerin yaratılmasını hızlandırabileceği endişelerini artırdı.
The Guardian’ın haberine göre, Microsoft Ignite 2023’te duyurulan Azure AI Speech, insan görüntüleriyle eğitiliyor ve kullanıcıların yapay zeka ile oluşturulan fotogerçekçi bir avatar tarafından yüksek sesle “okunabilecek” bir senaryo girmelerine olanak tanıyor. Kullanıcılar önceden yüklenmiş bir Microsoft avatarı seçebilir ya da sesini ve benzerliğini kopyalamak istedikleri bir kişinin görüntülerini yükleyebilirler. Microsoft Çarşamba günü yayınladığı bir blog yazısında bu aracın “konuşma ajanları, sanal asistanlar, sohbet robotları ve daha fazlasını” oluşturmak için kullanılabileceğini söyledi.
Gönderi şöyle devam ediyor: “Müşteriler avatarları için önceden oluşturulmuş ya da özel bir nöral ses seçebilirler. Aynı kişinin sesi ve benzerliği hem özel nöral ses hem de özel metinden konuşmaya avatar için kullanılırsa, avatar o kişiye yakından benzeyecektir.”
Şirket, yeni metinden konuşmaya yazılımının kötüye kullanımı önlemek için çeşitli sınırlamalar ve önlemlerle piyasaya sürüldüğünü söyledi. Şirket, “Microsoft’un sorumlu yapay zeka taahhüdünün bir parçası olarak, metinden konuşmaya avatar, bireylerin ve toplumun haklarını korumak, şeffaf insan-bilgisayar etkileşimini teşvik etmek ve zararlı derin taklitlerin ve yanıltıcı içeriğin yayılmasına karşı koymak amacıyla tasarlanmıştır” dedi.
Blog yazısında, “Müşteriler, özel avatarın konuştuğu sentetik bir videoyu eğitmek için özelliğin kullandığı kendi avatar yetenek video kayıtlarını yükleyebilirler” deniyor. “Avatar yeteneği”, yapay zekanın meşhur kamerası için poz veren bir insan.
Duyuru, Microsoft’un bir kişinin benzerliğinin kopyalanmasına ve kişinin söylemediği ya da yapmadığı şeyleri söylemesine ve yapmasına daha kolay izin verecek bir “deepfakes yaratıcısı” başlattığı yönündeki eleştirileri hızla ortaya çıkardı. Microsoft’un kendi başkanı Mayıs ayında yapay zekanın yükselişi söz konusu olduğunda “en büyük endişesinin” deepfake’ler olduğunu söyledi.
Şirket yaptığı açıklamada eleştirileri geri iterek, özelleştirilmiş avatarların artık müşterilerin başvurması ve Microsoft tarafından onaylanması gereken “sınırlı erişimli” bir araç olduğunu söyledi. Kullanıcıların ayrıca sentetik bir ses veya avatar oluşturmak için yapay zekanın ne zaman kullanıldığını açıklamaları gerekecek.
Microsoft’un sorumlu yapay zeka mühendisliği bölümünden Sarah Bird yaptığı açıklamada, “Bu önlemlerle, potansiyel riskleri sınırlandırmaya yardımcı oluyor ve müşterilerin gelişmiş ses ve konuşma yeteneklerini yapay zeka uygulamalarına şeffaf ve güvenli bir şekilde aşılamalarını sağlıyoruz” dedi.
Metinden konuşmaya avatar üreticisi, büyük teknoloji firmalarının son yıllardaki yapay zeka patlamasından yararlanmak için yarıştığı en son araç. Microsoft destekli OpenAI firması tarafından piyasaya sürülen ChatGPT’nin popülerliğinin artmasının ardından Meta ve Google gibi şirketler kendi yapay zeka araçlarını piyasaya sürdüler.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, Twitter, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.
