Günümüzün dijital dünyasında büyük dil modelleri (LLM’ler) yalnızca metin üretiminde değil, artık siber suçluların da yeni hedefi haline geldi. Bu saldırıların en dikkat çekeni, “Man in the Prompt” (Prompta Adam) adı verilen ve kullanıcı farkında olmadan hassas verileri sızdıran bir yöntem.
Nasıl Çalışıyor?
Saldırganlar, güvenilir görünen tarayıcı eklentilerinin güncelleme mekanizmasını ele geçirip zararlı kod yerleştiriyor. Bu kod, LLM ile etkileşim sırasında gizlice giriş alanına talimat ekliyor. Kullanıcının dikkatinden kaçan bu komutla, model üzerinden finansal verilerden fikri mülkiyet bilgilerine kadar birçok veri sisteme teslim edilebiliyor.
Neden Şirket İçi Sistemler Daha Tehlikede?
Kuruluşların kendi güvenilir ağlarında barındırdıkları LLM sistemleri, hassas veriler içermesi ve dış etkilere karşı kapalı olması sebebiyle saldırganlar için daha cazip hale geliyor. DOM seviyesinde yapılan bu enjeksiyon, konvansiyonel güvenlik önlemlerini aşarak sessizce çalışıyor.
Neden Bu Konu Önemli?
- LLM güvenliği, günümüzün kritik siber güvenlik sorunlarından biri haline gelmiştir. Gelişmiş modellerin siber suçluların hedefi olması, savunmasız sistemlerin riskini artırıyor.
- Bu saldırılar genellikle kullanıcının farkında olmadan gerçekleşir, tespit edilmesi çok zordur.
- Tarayıcı eklentileri ve LLM entegrasyonları, saldırganlar için yeni ve etkili bir araç haline gelmiştir.