Sahte OpenAI Modeli Hugging Face’te Zirveye Yükseldi

Hugging Face üzerinde yayımlanan kötü amaçlı bir depo, OpenAI tarafından geliştirilen meşru bir yapay zekâ modelini taklit ederek yüz binlerce kullanıcıya ulaştı. “Open-OSS/privacy-filter” adıyla yayımlanan proje, kısa sürede platformun trend listesinde birinci sıraya kadar yükseldi ve yaklaşık 244 bin indirme aldı.

Saldırganlar, OpenAI’nin geçtiğimiz ay yayımladığı Privacy Filter modelini hedef aldı. Meşru depo olan “openai/privacy-filter” adlı deponun açıklama metni ve model kartı neredeyse birebir kopyalandı. Böylece kullanıcıların sahte projeyi gerçek sanarak indirmesi amaçlandı.

Güvenlik araştırmacıları, bu olayın açık kaynak yapay zekâ ekosisteminde büyüyen “typosquatting” ve sahte model tehdidinin en dikkat çekici örneklerinden biri olduğunu belirtiyor.

Zararlı Kod Windows Kullanıcılarını Hedef Aldı

HiddenLayer tarafından yayımlanan rapora göre kötü amaçlı depo, özellikle Windows sistemleri hedef alacak şekilde tasarlandı. Kullanıcılardan modeli çalıştırabilmek için “start.bat” veya “loader.py” dosyalarını çalıştırmaları istendi.

Python tabanlı loader çalıştırıldığında saldırı zinciri otomatik olarak devreye giriyor. İlk aşamada SSL doğrulaması kapatılıyor, ardından JSON Keeper üzerinde saklanan Base64 kodlu bağlantılar çözülerek PowerShell komutları tetikleniyor.

Araştırmacılar, JSON Keeper servisinin “dead drop resolver” olarak kullanılmasının saldırganlara önemli avantaj sağladığını belirtiyor. Bu yöntem sayesinde zararlı yükler, Hugging Face deposu güncellenmeden uzaktan değiştirilebiliyor.

Çok Aşamalı Saldırı Zinciri Kullanıldı

Saldırı yalnızca basit bir zararlı yazılım çalıştırmaktan ibaret değildi. İndirilen PowerShell komutları, “api.eth-fastscan[.]org” alan adından ikinci aşama payload’ları çekerek sistemi hazırlıyordu.

Bu süreçte zararlı yazılım:

• UAC istemleri üzerinden ayrıcalık yükseltiyor,
• Microsoft Defender hariç tutmaları ekliyor,
• Zamanlanmış görev oluşturuyor,
• ve son aşama bilgi hırsızını çalıştırıyordu.

Araştırmacılara göre bu yapı, profesyonel siber suç operasyonlarında görülen modüler saldırı zincirlerine oldukça benziyor.

İlginç detaylardan biri ise zararlı yazılımın kalıcı olmaması. Oluşturulan zamanlanmış görev kısa süre sonra siliniyor ve zararlı kendisini sistemden kaldırıyor. Bu yaklaşımın, davranışsal analiz ve güvenlik ürünlerinden kaçınmak amacıyla tercih edildiği değerlendiriliyor.

Hedefte Tarayıcılar, Kripto Cüzdanları ve Discord Hesapları Vardı

Son aşamada çalışan Rust tabanlı bilgi hırsızı, sistemden geniş çaplı veri toplamaya odaklandı. Zararlı yazılım özellikle kripto para kullanıcılarını ve geliştiricileri hedef aldı.

Toplanan veriler arasında:

• Chromium ve Gecko tabanlı tarayıcı verileri,
• Kripto cüzdan uzantıları,
• Seed phrase dosyaları,
• Discord oturum bilgileri,
• FileZilla yapılandırmaları,
• Sistem meta verileri,
• Ve ekran görüntüleri yer aldı.

Çalınan bilgiler daha sonra JSON formatında “recargapopular[.]com” alan adına gönderildi.

Araştırmacılar ayrıca zararlının debugger, sandbox ve sanal makine tespiti gerçekleştirdiğini; bunun yanında Windows AMSI ve ETW mekanizmalarını devre dışı bırakmaya çalıştığını belirtti. Bu teknikler, modern bilgi hırsızı zararlı yazılımlarında yaygın olarak kullanılan savunma atlatma yöntemleri arasında bulunuyor.

Açık Kaynak Yapay Zekâ Ekosisteminde Yeni Risk

Olay, yapay zekâ modellerinin yalnızca uygulama katmanında değil, dağıtım ve paylaşım platformlarında da yeni güvenlik riskleri oluşturduğunu gösteriyor. Özellikle geliştiricilerin Hugging Face gibi platformlardan model indirirken yalnızca popülerlik veya trend sıralamasına güvenmemesi gerektiği vurgulanıyor.

Uzmanlar, açık kaynak model depolarında:

• Yayımcı hesabının doğrulanması,
• Script dosyalarının incelenmesi,
• Batch ve PowerShell komutlarının dikkatle analiz edilmesi,
• Ve hash doğrulaması yapılması gerektiğini belirtiyor.

Saldırının kısa sürede yüz binlerce indirmeye ulaşması ise, yapay zekâ ekosisteminin artık doğrudan siber suç operasyonlarının hedefi hâline geldiğini ortaya koyuyor.

Daha fazla siber güvenlik haberi ve güncel gelişmeler için SiberHavadis’i takipte kalın!