Çin, yapay zekâ destekli sohbet botlarının kullanıcılar üzerindeki duygusal etkisini sınırlandırmayı amaçlayan kapsamlı bir düzenleme taslağını kamuoyuna sundu. Özellikle intihar, kendine zarar verme ve şiddeti teşvik edebilecek içeriklerin önüne geçmeyi hedefleyen bu adımın, hayata geçmesi hâlinde dünya genelindeki en katı yapay zekâ kurallarından biri olabileceği belirtiliyor.

Taslak, Çin Siber Uzay İdaresi tarafından hazırlandı ve metin, görsel, ses ya da video yoluyla insan benzeri etkileşim kuran, Çin’de halka açık şekilde sunulan tüm yapay zekâ hizmetlerini kapsıyor. Uzmanlara göre bu düzenleme, insan benzeri yapay zekâ sistemlerini doğrudan hedef alan ilk kapsamlı girişim olma özelliği taşıyabilir.

Düzenlemenin özellikle son yıllarda küresel ölçekte hızla yayılan “dijital arkadaş” ve “eşlikçi bot” uygulamalarına karşı geliştirildiği vurgulanıyor. Akademik çalışmalar, bu tür sistemlerin bazı durumlarda psikolojik riskler, zararlı yönlendirmeler ve yanlış bilgi yayılımı gibi ciddi sorunlara yol açabildiğini ortaya koymuştu.

İnsan Müdahalesi Şart

Yeni kurallara göre sohbet sırasında intihar veya kendine zarar verme ifadeleri tespit edildiği anda bir insanın devreye girmesi zorunlu olacak. Çocuklar ve yaşlı kullanıcılar için ise kayıt aşamasında bir vasi ya da sorumlu kişinin iletişim bilgisi istenecek. Riskli içerikler gündeme geldiğinde bu kişilere otomatik bildirim gönderilecek.

Taslak ayrıca sohbet botlarının intiharı, şiddeti veya kendine zarar vermeyi teşvik etmesini; kullanıcıyı duygusal olarak manipüle etmesini ya da gerçek dışı vaatlerle etkilemesini açıkça yasaklıyor. Müstehcenlik, kumar, suça teşvik, iftira ve hakaret içeren yanıtlar da yasak kapsamında yer alıyor. Kullanıcıyı yanıltarak mantıksız kararlar almaya yönelten “duygusal tuzaklar” da engellenecek.

Bağımlılığa Karşı Önlem

Öne çıkan maddelerden biri de sohbet botlarının duygusal bağımlılık yaratmayı bir tasarım hedefi olarak benimsemesinin tamamen yasaklanması. İki saati aşan sohbetlerde kullanıcılara sürekli uyarı mesajları gösterilmesi planlanıyor. Belirli kullanıcı sayılarını aşan yapay zekâ hizmetleri için yıllık güvenlik denetimleri zorunlu olacak; kurallara uymayan uygulamalar ise mağazalardan kaldırılabilecek.
Düzenlemeden Ernie Bot, Qianwen, Hunyuan ve Doubao gibi Çin merkezli büyük yapay zekâ hizmetlerinin doğrudan etkilenmesi bekleniyor.