Amazon Bir Yıllığına Polis İçin Yüz Tanıma Programını Duraklatıyor – Ancak Bu Yeterli Değil

IBM, kitlesel gözetim için kullanılan yüz tanıma teknolojisinden geri adım attıktan günler sonra, Amazon dün ABD polis güçlerine yönelik yüz tanıma programına bir yıl ara verdiğini söyledi. Şirket, internette çocukların istismarını önlemek ve insan ticaretini durdurmak için Rekognition olarak bilinen yazılımın kullanılmasına hala izin vereceğini söyledi.

E-ticaret devinin duyurusu, algoritmasının daha az önyargılı olmasını sağlamak ve gözetim veya ırksal hedeflemeye izin vermemek için attığı adımlardan bahsetmiyor: ”Hükümetlerin yüz tanıma teknolojisinin etik kullanımını yönetmek için daha güçlü düzenlemeler yapması gerektiğini savunduk ve son günlerde Kongre bu zorluğu üstlenmeye hazır görünüyor. Bu bir yıllık moratoryumun Kongreye uygun kuralları uygulamak için yeterli zaman verebileceğini umuyoruz ve istenirse yardım etmeye hazırız.”

2019’da MIT Media Lab’ın Joy Buolamwini ve Toronto’nun Inioluwa Üniversitesi Deborah Raji, Rekognition’ın ırksal ve cinsiyet yanlılığını vurgulayan bir çalışma hazırladı. Çalışma, yüz tanıma sistemlerinin koyu tenli kadınları koyu tenli erkeklerde sıklıkla karıştırdığını gösterdi. Ayrıca, Amazon’un teknolojisinin koyu tenli dişileri belirlerken doğruluk konusunda sadece% 68.6 puan aldığını vurguladı.

Amazon bu iddiaları reddetti, ancak bir grup araştırmacı Buolamwini ve Raji’nin çalışmasına destek verdi ve şirkete açık bir mektup yazdı ve yazılımın kolluk kuvvetlerine satılmasını durdurmasını istedi.

IBM’in bu haftaki erken açıklaması, şirketin ırksal önyargı teknolojisinden kurtulmak için farklı paydaşlarla nasıl etkileşim kurmayı planladığını ayrıntılı olarak açıkladı. Amazon’un ifadesi inançtan yoksun ve iş uygulamalarından bir yıl sonra devam edebilecek küçük bir dikkat dağıtıcı gibi geliyor. E-ticaret firması etik kullanım tartışmalarına aktif olarak katılarak daha fazlasını yapmalı ve yüz tanıma teknolojisinin kötüye kullanılmasını önlemek için önlemler almalıdır.

Leave a Reply

Your email address will not be published. Required fields are marked *