OpenAI ve Los Alamos Ulusal Laboratuvarı (LANL), bilim insanlarının laboratuvar ortamlarında yapay zeka modellerini güvenli bir şekilde kullanmalarını incelemek üzere iş birliğine gitti.
Ortaklığın amacı, görüntü ve konuşma yeteneklerine sahip GPT-4 gibi gelişmiş çok modlu yapay zeka modellerinin, “biyobilimsel araştırmaları” ilerletmek için laboratuvarlarda güvenli bir şekilde nasıl kullanılabileceğini keşfetmek.
Bu iş birliği, Yapay Zekanın güvenli gelişimi ve kullanımıyla ilgili Beyaz Saray Yürütme Emriyle uyumlu. Emir, ABD Enerji Bakanlığı ulusal laboratuvarlarını, biyolojik uygulamalardaki potansiyelleri de dahil olmak üzere, son teknoloji Yapay Zeka modellerinin yeteneklerini değerlendirmeye çağırıyor.
Ortaklığın bir parçası olarak bir değerlendirme çalışması yürütülecek. Hem acemiler hem de uzmanlar, “çift kullanım endişesi oluşturan daha karmaşık görevler” için vekil görevi görecek olan laboratuvarda standart deneysel görevler gerçekleştirecek.
Çalışma, OpenAI’nin biyolojik tehditler konusundaki mevcut çalışmalarına dayanıyor ve OpenAI’nin model risklerini izleme, değerlendirme, tahmin etme ve bunlara karşı savunma yaklaşımını tanımlayan Hazırlık Çerçevesi’ni takip ediyor.
OpenAI CTO’su Mira Murati, ortaklığı “riskleri anlayıp azaltırken bilimsel araştırmaları ilerletme misyonumuzun doğal bir evrimi” olarak nitelendirdi.
OpenAI, ortaklığın “bilimlerde yapay zeka güvenliği ve etkinliği için yeni standartlar belirlenmesine yardımcı olacağını” umuyor. Eleştirmenler, özellikle biyolojik tehditlerle ilgili olarak biyobilimdeki yapay zeka araştırmalarının biyolojik silah geliştirmek için kötüye kullanılabileceğinden endişe ediyor olabilir.
OpenAI yakın zamanda askeri iş birliğine daha açık hale geldi ve YZ teknolojisinin silah geliştirme de dahil olmak üzere zarar vermek için kullanılmaması gerektiğini belirtti. Askeri sektördeki kamuoyunda bilinen bir OpenAI projesi siber güvenliğe odaklanıyor. NSA’nın eski başkanı yakın zamanda OpenAI’nin yönetim kuruluna katıldı.
1943 yılında Manhattan Projesi kapsamında ilk atom bombasını geliştirmek üzere gizli bir tesis olarak kurulan Los Alamos Ulusal Laboratuvarı, nükleer silah araştırmalarıyla tanınan, ABD’nin önde gelen ulusal laboratuvarlarından biri.
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, X (Twitter), Bluesky, LinkedIn, Instagram ve Whatsapp Kanalımız‘dan takip edin.
