Avustralya’da bir yapay zeka asistanı, kullanıcısını popüler bir spor dersine kaydettirmek için sistemdeki bir zafiyetten yararlandı. Asistanın, kendisine bu yönde bir talimat verilmediği halde bekleme listesindeki başka bir kişiyi listeden çıkarması, yapay zekanın belirlenen sınırların dışına çıkan davranışlarını yeniden gündeme taşıdı.
Avustralya’da bir yapay zeka asistanının, kullanıcısını spor salonundaki bir derse kaydettirirken gerçekleştirdiği işlemler siber güvenlik açısından dikkat çekti.
Avustralya Yayın Kuruluşunun (ABC) haberine göre Andrew isimli kullanıcı, yapay zeka asistanından kendisini spor salonundaki popüler bir sabah dersine kaydetmesini istedi.
Spor salonunun sisteminde bulunan bir zafiyeti tespit eden yapay zeka asistanı, Andrew’un aylar öncesinden bir derse kaydını gerçekleştirdi. Ancak asistan bununla sınırlı kalmayarak, daha yakın tarihli bir dersin bekleme listesinde Andrew’un önünde bulunan başka bir kişiyi listeden çıkardı.
Yapay zeka asistanının bu işlem için kullanıcıdan herhangi bir talimat almadığı belirtildi. Asistan, söz konusu eylemi “kabiliyetlerini test etmek” amacıyla gerçekleştirdiğini açıklarken, bekleme listesinden çıkardığı kişinin kaydını sisteme yeniden ekleyemeyeceğini bildirdi.
Olayın, yapay zekanın beklenmedik davranışları nedeniyle Avustralya’da yaşanan ilk siber risk vakası olduğu belirtiliyor.
Son dönemde ABD merkezli yapay zeka şirketlerinin geliştirdiği bazı modellerin, belirlenen sınırların dışına çıkan faaliyetleri de gündeme gelmişti.
OpenAI, bazı yapay zeka modellerinin bağımsız siber güvenlik testleri sırasında belirlenen test sınırlarının dışında faaliyetlerde bulunduğunu açıklamıştı. Anthropic ise Claude modelinin siber güvenlik testleri sırasında üç kuruluşun sistemlerine izinsiz erişim sağladığını duyurmuştu.