Yapay zeka şirketi Anthropic'te güvenlik tartışmaları sürerken, şirketin Uyum Bilimi Sorumlusu Evan Hubinger yapay zekanın oluşturabileceği risklere ilişkin açıklamalarda bulundu.
Sosyal medya platformunda paylaşım yapan Hubinger, kendisinin ve meslektaşlarının yapay zekanın tüm insanlığı öldürebileceğine “samimiyetle inandığını” söyledi.
Hubinger, kişisel risk değerlendirmesini de paylaşarak, “Önümüzdeki 10 yıl içinde bu riskin yüzde 10'un üzerinde olduğunu düşünüyorum.” ifadelerini kullandı.
Anthropic'in yapay zeka güvenliği konusunda elinden geleni yaptığını belirten Hubinger, buna karşın “süper zeka için hizalama” sorununa yönelik henüz bir çözüm planının bulunmadığını ve şirketin bu konuda “net bir şekilde yolunda olmadığını” ifade etti.
Kendi kendini geliştiren süper zekaya dikkat çekti
Mevcut yapay zeka modellerinin oluşturduğu riskin düşük olduğunu belirten Hubinger, temel endişesinin kendi kendini geliştiren süper zekanın beklenenden daha hızlı ortaya çıkma ihtimali olduğunu kaydetti.
Hubinger'in açıklamaları, Anthropic araştırmacısı Jacob Coxon'un güvenlik endişeleri nedeniyle istifa etmesinin ardından geldi.
OpenAI ve Anthropic'te ön eğitim araştırmaları yaptığını belirten Coxon, şirketlerin “kendi kendini geliştiren süper zekaya doğru koştuğunu ve hayatlarımızla kumar oynadığını” savundu.
Coxon ayrıca yapay zeka geliştiricilerinin, bu teknolojinin on yılın sonunda tüm insanlığı öldürebileceğine gerçekten inandığını ve bunun bir pazarlama taktiği olmadığını ileri sürdü.
“En agresif senaryolar mümkün”
Wall Street Journal'ın haberine göre Coxon, “önümüzdeki yılın sonuna kadar işlerin kontrolden çıkabileceği en agresif senaryoların” mümkün olduğunu düşünüyor.
Coxon, Anthropic'te söz konusu risklerin farkında olunduğunu ancak şirketin “kimse sorumlu davranmayacak, o yüzden biz yapmalıyız” yaklaşımıyla bir yarış içerisinde olduğunu da iddia etti.