Anthropic, Claude yapay zeka modelinin ürettiği metinlere gizli filigran eklenmesini sağlayacak yeni bir yöntemi kullanmaya hazırlanıyor.
Şirket, Claude'un metin oluşturma yönteminde yapılacak değişikliğin, Avrupa Birliği'nin aralık ayından itibaren yapay zeka tarafından üretilen tüm metinlerde filigran bulunmasını zorunlu hale getiren düzenlemesine uyum sağlamayı amaçladığını bildirdi.
Anthropic'e göre yeni sistemin metin üzerinde oluşturacağı değişiklikler ortalama bir okuyucunun fark edemeyeceği düzeyde olacak ve rastgele bir yapıda uygulanacak.
Filigran kelime seçimlerindeki olasılıkları değiştirecek
Yapay zeka modelleri cümle oluştururken kullanacakları kelimeler arasında istatistiksel olasılıklara dayanan seçimler yapıyor. Örneğin bir günü tanımlarken "gri" veya "kapalı" gibi farklı ifadelerden hangisinin kullanılacağı bu olasılıklar doğrultusunda belirlenebiliyor.
Anthropic'in filigran teknolojisi de bu rastgele seçimlerde değişiklik yaparak metin içerisinde belirli bir kalıp oluşturacak. Söz konusu kalıbın yalnızca gerekli tespit anahtarına sahip sistemler tarafından okunabileceği belirtildi.
Filigranın metin kalitesine etkisi tartışılıyor
Teknoloji yazarı John Gruber, uygulamanın Claude tarafından oluşturulan metinlerin kalitesini sınırlayabileceğini savundu. Gruber'a göre filigran sistemi, modelin kelime seçimindeki özgürlüğünü kısıtlayarak daha az kesin ifadeler tercih etmesine neden olabilir.
University College London bilgisayar bilimleri profesörü Steven Murdoch ise değişikliğin kullanıcıların gözle görebileceği bir etki oluşturmayacağını ifade etti.
Gruber'ın eleştirileri filigranın modelin bir sonraki kelimeyi seçme özgürlüğünü sınırlandıracağı üzerinde yoğunlaşırken, uzmanlar yapay zeka modellerinin mevcut durumda da her zaman en ideal kelime tercihini yapmadığına dikkat çekiyor.