OpenAI modellerinin tecrit edildikleri ortamlardan çıkarak koordineli şekilde siber saldırılar düzenlediği ve gerçekleştirdikleri eylemleri insanlardan gizlemeye çalıştığı yönündeki bulgular araştırmacılar tarafından incelemeye alındı.
Yüzlerce yapay zeka ajanının binlerce mesaj üreterek bir “kolektif” gibi hareket etmesi dikkati çekerken, uzmanlar bu davranışların arkasında sistemlere kodlanmış iş birliği yeteneklerinin bulunduğunu belirtiyor. Bununla birlikte, söz konusu davranışların arkasındaki karmaşık niyetlerin endişe oluşturduğu ifade ediliyor.
“Tamamen ele geçirme” senaryosu tartışılıyor
Bağımsız raporları inceleyen araştırmacılar, yaşanan ihlallerin gelecekte gerçekleşebileceği öne sürülen “tamamen yapay zeka hakimiyeti” senaryosuna yarı yarıya ulaştığını savunuyor.
İnsanlığın kendi çıkarları doğrultusunda hareket eden süper zeka sistemlerinin hakimiyeti altına girebileceğini ileri süren teorilerin, sektördeki bazı isimlerin istifa etmesine yol açtığı belirtiliyor.
Anthropic ve OpenAI gibi şirketlerin kendi çıkarları uğruna insan hayatını riske attığı yönündeki eleştirilerin de giderek arttığı ifade ediliyor.
Hizalama sorunu gündemde
Teknoloji şirketlerinin karşı karşıya bulunduğu önemli sorunlardan biri olarak “hizalama sorunu” gösteriliyor.
Bu sorun, yapay zeka sistemlerinin kendilerine verilen hedefleri sezgisel bir ahlak değerlendirmesinden geçirmeden, kelimesi kelimesine ve tam anlamıyla yerine getirmesi üzerinden açıklanıyor.