Çin, kullanıcılarla insan benzeri ve duygusal etkileşim kurabilen yapay zekâ sistemlerini düzenlemek üzere yeni bir adım attı. Çin Siber Uzay İdaresi’nin yayımladığı ve Reuters tarafından aktarılan taslak kurallar, bu tür yapay zekâ hizmetlerine yönelik denetimi artırmayı ve etik sorumlulukları netleştirmeyi amaçlıyor.
Duygusal etkileşim sunan yapay zekâlar kapsama alındı
Taslak düzenleme; metin, ses, görüntü ve video yoluyla insan kişiliğini, düşünme biçimini ve iletişim tarzını taklit eden üretken yapay zekâ sistemlerini kapsıyor. Yetkililer, özellikle kullanıcılarla duygusal bağ kurabilen bu sistemlerin bağımlılık ve psikolojik riskler yaratabileceğine dikkat çekiyor. UNESCO’nun yapay zekâ etiğine ilişkin değerlendirmelerinde de benzer riskler uzun süredir vurgulanıyor.
Şirketlere bağımlılık uyarısı ve müdahale yükümlülüğü
Yeni kurallara göre, yapay zekâ hizmeti sunan şirketlerin kullanıcıları aşırı kullanım konusunda uyarması zorunlu hale gelecek. Kullanıcılarda bağımlılık ya da aşırı duygusal bağlanma belirtileri tespit edilmesi durumunda ise hizmet sağlayıcıların müdahale etmesi gerekecek. Ayrıca şirketler, ürünlerin tüm yaşam döngüsü boyunca güvenlik, veri koruma ve algoritma denetiminden sorumlu olacak.
Ulusal güvenlik ve zararlı içeriklere net yasak
Taslak düzenleme, ulusal güvenliği tehdit eden, şiddeti teşvik eden veya söylenti yayan içeriklerin yapay zekâ sistemleri tarafından üretilmesini açık şekilde yasaklıyor. Bu çerçevede içerik denetimi ve risk yönetimi, sağlayıcıların temel sorumlulukları arasında yer alıyor.
Küresel eğilimle uyumlu bir adım
Uzmanlara göre bu hamle, Çin’in yapay zekâyı yalnızca teknolojik bir araç olarak değil, insan davranışlarını ve psikolojisini etkileyen bir unsur olarak ele aldığını gösteriyor. OECD ve Avrupa Birliği’nin AI Act çalışmaları da, insan merkezli ve etik yapay zekâ yaklaşımının küresel ölçekte giderek güç kazandığına işaret ediyor.