Siber güvenlik araştırmacıları, büyük dil modelleri (LLM) üzerinde çalışan sistemlerde yeni bir güvenlik açığı olan “TokenBreak” saldırı tekniğini keşfetti. Bu saldırı yöntemi, yapay zekâ sistemlerine yerleştirilen güvenlik önlemlerini parçalayarak etkisiz hale getirebiliyor. TokenBreak, özellikle metin tabanlı güvenlik kontrollerini atlatmak ve LLM’leri yasaklı, tehlikeli ya da etik dışı cevaplar üretmeye zorlamak amacıyla kullanılıyor.
Bu teknik, token seviyesinde yapılan manipülasyonlarla modelin filtrelerini kandırmayı başarıyor ve kötü niyetli kullanıcıların sistemleri dolaylı yoldan sömürmesine olanak tanıyor. Uzmanlara göre TokenBreak, sadece dil modeli tabanlı sohbet botlarını değil, aynı zamanda AI destekli içerik filtreleme, siber savunma ve veri analiz sistemlerini de tehdit ediyor.
Saldırının başarısı, LLM’lerin dil yapısı ve güvenlik protokollerine dair derin bilgi sahibi olan saldırganlara bağlı olarak artış gösteriyor. Güvenlik araştırmacıları, AI sistemleri için daha dayanıklı koruma mekanizmaları geliştirilmesi gerektiğini vurgularken, AI’nin siber tehditlere karşı artık sadece bir çözüm değil, aynı zamanda hedef haline geldiği uyarısında bulunuyor.