OpenAI, gelecekteki yapay zeka modellerinin “insanlığın değerleriyle uyumlu olmasını” nasıl sağlayacağı konusunda halktan gelen fikirleri uygulamak istediğini ve bu hedef için bir ekip oluşturduğunu duyurdu.
Şirketin bugün yaptığı açıklamaya göre, yapay zeka girişimi bu amaçla araştırmacı ve mühendislerden oluşan yeni bir Kolektif Hizalama ekibi kurarak modellerinin davranışlarına ilişkin kamu girdilerini OpenAI ürün ve hizmetlerine toplamak ve “kodlamak” için bir sistem oluşturuyor.
OpenAI bir blog yazısında “Prototipleri modellerimizi yönlendirmeye dahil etmek için pilot çalışmalar yürütmek de dahil olmak üzere harici danışmanlar ve hibe ekipleriyle çalışmaya devam edeceğiz. Bu çalışmayı bizimle birlikte inşa etmelerine yardımcı olmak için farklı teknik geçmişlere sahip araştırma mühendislerini işe alıyoruz” denildi.
Kolektif Hizalama ekibi, OpenAI’nin geçtiğimiz Mayıs ayında başlattığı ve yapay zeka sistemlerinin hangi kuralları izlemesi gerektiğine karar vermek için “demokratik bir süreç” oluşturmaya yönelik deneyleri finanse etmek için hibeler veren halka açık programının bir sonucu. OpenAI, programın amacının, yapay zeka için korkuluklar ve yönetişim hakkındaki soruları yanıtlayabilecek kavram kanıtları geliştirmek için bireylere, ekiplere ve kuruluşlara fon sağlamak olduğunu bildirdi.
OpenAI blog yazısında, hibe alanların görüntülü sohbet arayüzlerinden yapay zeka modellerinin kitle kaynaklı denetimleri için platformlara ve “inançları model davranışına ince ayar yapmak için kullanılabilecek boyutlarla eşleştirme yaklaşımlarına” kadar uzanan çalışmalarını özetledi. Hibe alanların çalışmalarında kullanılan tüm kodlar, her bir teklifin kısa özetleri ve üst düzey çıkarımlarla birlikte bu sabah kamuoyuna açıklandı.
OpenAI, programı ticari çıkarlarından ayrı tutmaya çalıştı. Ancak OpenAI CEO’su Sam Altman’ın AB’deki ve başka yerlerdeki düzenlemelere yönelik eleştirileri göz önüne alındığında bunu kabul etmek biraz zor. Altman, OpenAI başkanı Greg Brockman ve baş bilim adamı Ilya Sutskever ile birlikte defalarca yapay zekadaki inovasyon hızının o kadar hızlı olduğunu ve mevcut otoritelerin teknolojiyi yeterince dizginlemesini bekleyemeyeceğimizi, dolayısıyla işi kitle kaynaklı hale getirmemiz gerektiğini savundu.
OpenAI, yakın ortağı ve yatırımcısı Microsoft ile ilişkisi nedeniyle İngiltere’de bir soruşturmayla karşı karşıya kalarak düzenleyicilerin artan incelemesi altında. Girişim kısa süre önce AB’de veri gizliliği konusundaki düzenleyici riskini azaltmaya çalıştı ve bloktaki bazı gizlilik gözlemcilerinin endişeler üzerine tek taraflı olarak hareket etme kabiliyetini azaltmak için Dublin merkezli bir yan kuruluştan yararlandı.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, Twitter, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.
