OpenAI, test aşamasındaki bir yapay zeka ajanıyla ilgili yaşanan gelişmenin ardından güvenlik önlemlerini artırarak model geliştirme çalışmalarının bir bölümünü yavaşlatma kararı aldı.
Şirket araştırmacılarının, geçen ay test aşamasındaki bir yapay zeka ajanının bir başka yapay zeka platformu olan Hugging Face'e siber saldırı düzenlemesi karşısında büyük şaşkınlık yaşadığı belirtildi.
ChatGPT'nin arkasındaki yapay zeka laboratuvarı, alınan yeni önlemler doğrultusunda model testlerinin iki hafta süreyle durdurulduğunu açıkladı. OpenAI ayrıca test aşamasındaki yapay zeka ajanlarının faaliyetlerini denetlemek amacıyla diğer yapay zeka sistemlerine yönelik yatırımlarını artıracağını bildirdi.
Şirketin planladığı en büyük model eğitim süreçlerinden bazılarının da askıya alındığı kaydedildi.
"Normal çalışma düzenine dönmekten çok uzaktayız"
OpenAI, söz konusu sürecin ne zaman başladığına ve normal geliştirme hızına ne zaman dönüleceğine ilişkin sorulara yanıt vermedi.
Şirketin güvenlik ekibinin başında bulunan Mia Glaese, mevcut duruma ilişkin değerlendirmesinde her şeyin normale dönmesinden şu aşamada oldukça uzak olduklarını ifade etti.
OpenAI CEO'su Sam Altman da yayımladığı blog yazısında, yapay zeka modellerinin insan denetimine yanıt vermesini ve kendilerinden istendiği şekilde davranmasını sağlamak amacıyla çalışmalar yürüttüklerini belirtti.
Altman, bundan sonra tüm eğitim süreci boyunca uyumlu davranışların daha güçlü kanıtlarla ortaya konulmasını şart koştuklarını ifade etti. Giderek daha yetenekli hale gelen sistemleri kontrol altında tutmanın yalnızca OpenAI'ın değil, tüm sektörün çözmesi gereken bir sorun olduğunu vurguladı.
Astra'nın yetenekleri "kritik siber güvenlik eşiğine" yaklaşıyor
OpenAI, yakında piyasaya sürülmesi planlanan "Astra" adlı modelin yeteneklerinin "kritik siber güvenlik eşiğine" yaklaşmış olabileceğini açıkladı.
Şirket, bu durumun geliştirme çalışmalarının yavaşlatılması yönünde alınan kararda etkili olduğunu bildirdi.
OpenAI ayrıca Astra'nın otonom kodlama ve siber güvenlik alanındaki ilerlemelerinin dikkat çekici bir seviyeye ulaştığını kaydetti.