Çin'in Anhui eyaletine bağlı Chuzhou kentinde yaşayan 67 yaşındaki bir çiftçi, yapay zekadan aldığı tarımsal tavsiyeyi doğrulamadan uygulamasının ardından 25 dönümlük tarlasındaki ürününü kaybetti.
Yaklaşık bir yıldır gübreleme işlemlerinden tarımsal takvim planlamasına kadar birçok konuda yapay zeka yazılımından yararlanan çiftçi, susam tarlasındaki yabani otlar ve zararlılarla mücadele etmek için de aynı uygulamaya başvurdu.
Yapay zekanın önerdiği reçeteyi uyguladı
Çiftçi, yapay zekanın sunduğu yöntemi başka kaynaklardan veya uzmanlardan doğrulamadan doğrudan tarlasında uyguladı. Önerilen ilacın kullanılmasının ardından susam tarlasındaki bütün filizlerin kuruduğu bildirildi.
Ziraat uzmanları, ürünlerin zarar görmesine "flufenaset" adlı ot ilacının neden olduğunu belirtti. Uzmanlar, söz konusu etken maddenin hedefli şekilde kullanılmaması durumunda susam tarlalarına zarar verebileceğine dikkati çekti.
Yapay zeka uygulamasının ekranında ise üretilen içeriğin hatalı olabileceğini ve bilgilerin doğrulanması gerektiğini belirten bir uyarının bulunduğu aktarıldı.
Yapay zeka tavsiyelerinde doğrulama riski
Yapay zeka uygulamalarından elde edilen bilgilerin doğrulanmadan kullanılmasının daha önce sağlık alanında da sorunlara yol açtığı belirtildi.
Geçen yıl bir kullanıcı, sofra tuzunu bırakma tavsiyesinin ardından yapay zekanın yönlendirmesiyle yiyeceklerine sodyum bromür ekledi. Bu kimyasalı üç ay boyunca tüketen kişi, brom zehirlenmesi teşhisiyle hastaneye kaldırıldı ve psikoz tedavisi gördü.
Bilimsel açıdan hatalı bilgiler üretebiliyor
Annals of Internal Medicine dergisinde yayımlanan bir incelemede de yapay zeka uygulamalarının bilimsel açıdan hatalı bilgiler üretebileceği ve bunun bilgi kirliliğine neden olabileceği vurgulandı.