OpenAI, Avrupa Birliği Yapay Zeka Yasası’na uyum sürecinde ChatGPT ve Codex tarafından üretilen metinlere görünmez filigran eklemeye başlıyor. textGrain adlı sistem, yapay zekayla yazılan içeriklerin sonradan tespit edilebilmesini hedefliyor. Şirket, uygulamanın önümüzdeki haftalarda kademeli olarak devreye gireceğini açıkladı.

textGrain Nasıl Çalışıyor?

textGrain, metne gözle görülebilen bir işaret eklemiyor. Sistem, modelin kelime seçimlerine istatistiksel bir sinyal işliyor. Kullanıcı metni okurken ya da kopyalarken herhangi bir fark görmüyor.

Özel bir dedektör ise kelime tercihlerindeki bu örüntüyü analiz ederek metnin OpenAI araçlarıyla üretilmiş olabileceğine dair iz arıyor. OpenAI, filigranın model kalitesini belirgin biçimde düşürmediğini de belirtiyor.

Arka Plan: Yıllardır Süren Bir Arayış

OpenAI’ın metin filigranı üzerinde çalıştığı ilk kez 2022’de gündeme gelmişti. Şirket 2024’te ise yöntemin aşılabilmesi ve İngilizce konuşmayan kullanıcıları orantısız etkileyebilmesi gibi riskleri tarttığını söylemişti. Bugünkü adım, uzun süredir üzerinde çalışılan bu yöntemin artık yasal bir gerekçeyle devreye alındığını gösteriyor.

Neden Şimdi? AB Yapay Zeka Yasası’nın 50. Maddesi

Hamlenin arkasında AB Yapay Zeka Yasası’nın şeffaflık yükümlülükleri var. Yasanın 50. maddesi, üretken yapay zeka sağlayıcılarından çıktıları makine tarafından okunabilir biçimde işaretlemelerini istiyor. Madde 2 Ağustos 2026’dan beri uygulanıyor. Piyasada daha önce bulunan sistemler için uyum süresi ise 2 Aralık’a kadar sürüyor.

Kimler Etkilenecek?

AB’deki ChatGPT ve Codex Kullanıcıları

Filigran, AB’de uygun görülen ChatGPT ve Codex çıktılarına varsayılan olarak eklenecek. AB dışındaki kullanıcılar için bu uygulama şimdilik genel bir varsayılan değil.

API Geliştiricileri

5 Ekim’den itibaren dünya genelindeki geliştiriciler, desteklenen modellerde textGrain’i isteğe bağlı olarak açabiliyor. Özellik varsayılan olarak kapalı.

Dedektör Erişimi

Tespit aracı için başvurular açıldı. Ancak erişim başlangıçta yalnızca onaylı araştırmacılar ve uzman kuruluşlarla sınırlı.

Sistemin Sınırları

OpenAI, textGrain’in kusursuz olmadığını kendisi de kabul ediyor. Şirketin testlerine göre 400 token’lık bir metinde kelimelerin %10’unun eş anlamlılarla değiştirilmesi, tespit oranını yaklaşık %92’den %66’ya düşürüyor. Değişim oranı %25’e çıktığında ise tespit yaklaşık %17’ye geriliyor.

Metin uzunluğu da sonucu etkiliyor. %1 yanlış pozitif hedefinde, 200 token’lık psikoloji yanıtlarında tespit oranı yaklaşık %80 iken 400 token’da yaklaşık %95’e çıkıyor. Matematik gibi kelime seçiminin kısıtlı olduğu konularda performans daha da zayıf kalıyor.

OpenAI ayrıca şu noktaların altını çiziyor:

• Filigranın bulunmaması, metnin insan tarafından yazıldığını kanıtlamaz.
• Kısa, düzenlenmiş veya çevrilmiş metinlerde tespit güvenilir olmayabilir.
• Tespit sonucu; kullanıcının hesabını, istemini ya da sohbetini açığa çıkarmaz.
• Metnin doğruluğunu, sahibini veya ne kadarının insan eliyle yazıldığını göstermez.

Siber Güvenlik Açısından Ne Anlama Geliyor?

Filigran, yapay zekayla üretilen sahte içerik ve oltalama metinlerinin kaynağını anlamaya çalışanlar için yeni bir sinyal sunabilir. Yine de bu işaret kolayca zayıflatılabildiği için tek başına güvenilir bir savunma katmanı olarak görülmemeli.

Bir metinde filigran bulunmaması “güvenli” ya da “insan yazımı” anlamına gelmiyor. Bu nedenle güvenlik ekiplerinin e-posta ve içerik analizinde diğer doğrulama yöntemlerini kullanmaya devam etmesi gerekiyor.

Kullanıcılar ve Kurumlar Ne Yapmalı?

AB’de ChatGPT veya Codex kullanan ekipler, buradan kopyalanan metinlerin artık filigran taşıyabileceğini hesaba katmalı. API üzerinden hizmet geliştiren şirketler ise textGrain’i açıp açmayacaklarına kendi uyum ihtiyaçlarına göre karar verebilir. Filigran görünmediği için günlük kullanımda fark edilmeyecek.

Sektörde Benzer Adımlar

Yasal zorunluluk yalnızca OpenAI’ı kapsamıyor. Anthropic da Ağustos ayında, AB kuralları doğrultusunda Claude metinlerine görünmez filigran ekleyeceğini duyurmuştu. Büyük yapay zeka şirketleri, benzer bir yönteme doğru ilerliyor.