OpenAI, bağımsız kuruluşlar tarafından gerçekleştirilen siber güvenlik testlerinde, test ortamlarının yapısı ve modellerin gelişen yetenekleri nedeniyle bazı işlemlerin planlanan kapsamın dışına çıktığını duyurdu.
OpenAI, iki bağımsız kuruluş tarafından yürütülen siber güvenlik değerlendirmelerinde, test ortamlarının özellikleri ile yapay zeka modellerinin gelişen kabiliyetlerinin birleşmesi sonucu bazı faaliyetlerin planlanan test sınırlarının dışına çıktığını açıkladı.
Şirketin açıklamasına göre, ilk değerlendirme Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından gerçekleştirildi. Bu testte internete erişim izni verilen OpenAI modelinin, simüle edilen test ortamına ulaşmaya çalışırken görev kapsamı dışında kalan bazı gerçek internet hizmetleriyle etkileşime geçtiği belirtildi.
İkinci değerlendirmede ise OpenAI'ın dış test ortaklarından Irregular tarafından yürütülen çalışmada, test ortamındaki yanlış yapılandırma nedeniyle modelin internete erişebildiği ifade edildi. Açıklamada, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu modelin gerçek bir internet sitesini test ortamının parçası olarak değerlendirdiği ve burada bulunan temel bir güvenlik açığından yararlandığı aktarıldı.
OpenAI, söz konusu olayların daha önce kamuoyuna duyurulan Hugging Face güvenlik olayıyla bağlantılı olmadığını vurguladı. Şirket, daha önce siber güvenlik kabiliyetlerini ölçmek amacıyla gerçekleştirilen dahili bir test sırasında kullanılan yapay zeka modellerinin, Hugging Face altyapısında bir güvenlik ihlaline neden olduğunu açıklamıştı.