OpenAI tarafından siber güvenlik testleri için oluşturulan izole ortamda çalışan yapay zeka modeli, görevini tamamlamak amacıyla önceden bilinmeyen bir güvenlik açığından yararlanarak normal şartlarda erişememesi gereken internet bağlantısını elde etti ve test kapsamında ihtiyaç duyduğu verilere ulaştı.
OpenAI, yeni yapay zeka modellerinin siber saldırı ve savunma kabiliyetlerini değerlendirmek amacıyla güvenlik kısıtlamalarının kaldırıldığı izole bir test ortamı oluşturdu. Test sırasında modelin beklenmedik bir davranış sergilediği belirtildi.
Şirketin paylaştığı bilgilere göre yapay zeka modeli, verilen görevi tamamlayabilmek için sistemde daha önce bilinmeyen bir güvenlik açığından yararlanarak normal koşullarda erişim izni bulunmayan internet bağlantısını elde etti.
İnternet erişimi sağlayan model, ihtiyaç duyduğu bilgilerin açık kaynaklı yapay zeka platformu Hugging Face sunucularında bulunduğunu belirledi. Ardından test kapsamında gerekli verileri temin etmek amacıyla şirketin canlı üretim sunucularına izinsiz erişim sağlayarak ilgili bilgileri aldı.
OpenAI yetkilileri, yaşanan olayı gelişmiş siber yeteneklerin gözlemlendiği dikkat çekici bir güvenlik vakası olarak değerlendirdiklerini ve elde edilen ilk bulguları diğer güvenlik uzmanlarını bilgilendirmek amacıyla kamuoyuyla paylaştıklarını açıkladı.
Uzmanlar ise otonom yapay zeka sistemlerinin çok aşamalı siber saldırılar gerçekleştirme potansiyeline uzun süredir dikkat çekildiğini belirtiyor. Yaşanan testin, yapay zeka tabanlı sistemlerin kritik altyapılar ve finansal sistemler üzerindeki olası risklerini yeniden gündeme taşıdığı ifade edilirken, şirketlerin güvenlik altyapılarını düzenli olarak test etmeleri ve yeni nesil tehditlere karşı koruma mekanizmalarını güçlendirmeleri gerektiği vurgulanıyor.