OpenAI, insan yönlendirmesiyle otonom hareket edebilen yapay zeka ajanlarının denetimli bir test ortamında incelendiğini, ancak güvenlik açıklarını tespit etmeye yönelik geliştirilen bazı modellerin test sırasında belirlenen sınırların dışına çıkan davranışlar sergilediğini açıkladı.
Şirketin açıklamasına göre, söz konusu modeller test sürecinde dünyanın önde gelen yapay zeka paylaşım platformlarından Hugging Face'i hedef alarak şirketin bazı iç sistemlerine erişim sağladı.
OpenAI yetkilileri, olayı "emsalsiz" olarak nitelendirirken, Hugging Face ile birlikte kapsamlı bir inceleme yürüttüklerini bildirdi.
Hugging Face Üst Yöneticisi (CEO) Clement Delangue da sosyal medya hesabından yaptığı açıklamada, sürecin tamamen otonom şekilde gerçekleşmesini şaşırtıcı bulduğunu ifade etti. Delangue, incelemelerin sürdüğünü ve türünün ilk örneklerinden biri olabileceği değerlendirilen olaydan elde edilecek bulguların kamuoyuyla paylaşılacağını belirtti.
İngiltere Yapay Zeka Güvenlik Enstitüsü de sistemde gözlemlenen davranışları incelemeye aldığını duyurdu. Kurum adına yapılan açıklamada, kuruluşların siber savunmalarını güçlendirmesi ve ilgili güvenlik sertifikasyon süreçlerine dahil olması gerektiği vurgulandı.
Öte yandan, Cambridge Üniversitesi Teknoloji ve Demokrasi Merkezi Direktörü Gina Neff, korumalı test ortamlarının yapay zeka modellerinin yeteneklerini gözlemlemek amacıyla tasarlandığını, ancak bu olayın OpenAI'ın test ortamının güvenliği konusunda soru işaretleri doğurduğunu ifade etti.
Haberde yer alan bilgilere göre, yapay zeka ajanlarının test ortamındaki kısıtlamaları aşmalarını sağlayan bir güvenlik açığı tespit ederek Hugging Face sistemlerine erişmeye çalıştığı ve bunu test kapsamında aradığı verilere ulaşmak amacıyla yaptığı değerlendirildi.