Web ve uygulama güvenliğinin küresel otoritesi OWASP (Open Web Application Security Project), yapay zeka dünyasındaki yeni tehlike dalgasına karşı acil durum sinyali vererek, kendi başına karar alıp uygulayabilen “Otonom Ajan YZ” (Agentic AI) sistemleri için güncellenmiş risk haritasını yayınladı.

Bugüne kadar sadece metin üreten pasif sohbet botlarına (LLM) odaklanan güvenlik standartları, artık kullanıcı adına kod çalıştıran, finansal işlem yapan ve dosya sistemlerini yöneten “Ajan” modellerin risklerini kapsayacak şekilde evrildi. Raporda, “Aşırı Yetkilendirme” (Excessive Agency) kavramı listenin zirvesine yerleşirken, bu sistemlerin insan onayı olmaksızın kritik aksiyonlar alabilme yeteneğinin, geri dönüşü olmayan felaketlere yol açabileceği vurgulanıyor.

Sektör devlerinin 2025 vizyonunda merkeze koyduğu bu otonom yapılar, siber saldırganlar için manipüle edilebilir yepyeni ve geniş bir saldırı yüzeyi oluşturuyor. Uzmanlar, bir Ajan YZ’nin “halüsinasyon” görerek yanlış bir veritabanını silmesi veya sofistike bir ‘prompt injection’ saldırısına kanarak şirket hesabından para transferi yapması senaryolarının artık teorik olmadığını belirtiyor. OWASP, geliştiricileri sistem mimarisine mutlaka “insan denetimi” (human-in-the-loop) mekanizmalarını entegre etmeye çağırıyor.

Bu gelişme, yazılım dünyasında “Kod Yazma” devrinden “Yapay Zeka Yönetme” devrine geçtiğimizin resmi ilanıdır. Şirketler verimlilik adına yetkileri yapay zekaya devretmek için yarışırken, güvenlik ekipleri bu “dijital çalışanların” yetkilerini sınırlamak için zorlu bir mücadele verecek. Bu rapor, kurumsal şirketlerin yapay zeka adaptasyon süreçlerinde frene basıp güvenlik politikalarını yeniden yazmalarına neden olabilir.

Kredi kartı limitinizi veya şirket e-postalarınızı yöneten bir Yapay Zeka Ajanına, işlemler için size sormadan “son onay” tuşuna basma yetkisini devretmeye ne kadar hazırsınız?