Hepimiz yapay zekâyı ve makine öğrenmesini kendimizi koruyan ve işimizi kolaylaştıran araçlar olarak görüyoruz: akıllı EDR’ler, yeni nesil antivirüsler, anomali tespit sistemleri… Peki ya saldırganlar AI modelinin “beynini” hedef alırsa?

İşte bu noktada karşımıza Düşmancıl Makine Öğrenmesi (Adversarial Machine Learning) çıkıyor.

Olay şu: Saldırgan, sistemin kodunu kırmaya veya açığını bulmaya çalışmıyor, Bunun yerine, AI modelini yanıltmak için özel olarak tasarlanmış veriler üretiyor.

Örnek verirsek:

• Saldırı Yöntemi (Evasion): Düşün ki, bir zararlı yazılım tespit modelin var. Bu model, milyonlarca iyi veya kötü dosyayı öğrenmiş. Saldırgan, elindeki zararlı yazılımın kodunda minicik, anlamsız değişiklikler yaparak (mesela birkaç ‘byte’ ekleyerek) bu yazılımı AI modelinin “iyi huylu” bir dosya sanmasını sağlıyor. Model atlatılıyor ve oltalama maili gelen kutusuna düşüyor.
  
• Zehirleme (Poisoning): Bu, işin en tehlikeli kısmı. Saldırgan, bir şekilde AI modelinin eğitim verisinin içine sızıyor. Örneğin, otonom bir aracın eğitim verisine, “DUR” tabelasının aslında “Hız Limiti 100” anlamına geldiğini öğreten binlerce sahte görüntü ekliyor. Model bu veriyi “doğru” kabul edip eğitildiğinde, gerçek hayattaki “DUR” tabelasını gördüğünde yavaşlamak yerine hızlanabilir.

Neden Bu Konu Şu An Önemli?

Çünkü artık herşey AI destekli. Güvenlikten finansa, sağlıktan askeri sistemlere kadar her kritik altyapı bu modellere güveniyor. Bu modelleri kandırabilmek,bir “exploit” bulmaktan çok daha yıkıcı sonuçlar doğurabilir. Bu, bir kilidi kırmak değil, kilidin anahtar kavramını unutmasını sağlamak gibi bir şey

Nasıl Savunacağız?

Bu sorunun cevabı, ironik bir şekilde yine AI’ın kendisinde. “Adversarial Training” denilen yöntemle, savunma modelimizi bu tür kandırmacalara karşı aşılıyoruz. Yani, AI’ı eğitirken ona sadece normal verileri değil, aynı zamanda onu kandırmak için tasarlanmış sahte verileri de öğretiyoruz.

Bu, bitmeyen bir kedi-fare oyunu. Saldırganlar AI’ı kandırmak için yeni yollar bulacak, biz de AI’ı daha dirençli hale getirmek için yeni savunma mekanizmaları geliştireceğiz.

Bu yazıyı okuyanlara mesajım net: Yapay zekaya %100 güvenmek, kapıyı kilitleyip anahtarı paspasın altına bırakmaktır.