Eiliko Robotunda Güvenlik Açığı: Milyonlarca Konuşma Kaydı Risk Altında

Energize Lab tarafından üretilen Eiliko ve Eilik robotlarıyla ilişkili sistemlerde tespit edilen güvenlik açıklarının, özel konuşmalara ve kişisel profillere erişilmesine, ayrıca robotların yapay zekâ davranışlarının uzaktan değiştirilmesine imkân tanıdığı bildirildi. Güvenlik araştırmacısı Sammy Azdoufal’ın bulguları, özellikle çocuklara yönelik yapay zekâlı oyuncakların veri güvenliği ve içerik denetimi konusunda ciddi soru işaretleri doğurdu.

Milyonlarca Özel Konuşmaya Erişilebildiği Bildirildi

The Verge tarafından yayımlanan araştırmaya göre güvenlik araştırmacısı Sammy Azdoufal, Energize Lab’ın robotlarıyla ilişkili çevrim içi hizmetleri incelerken kullanıcıların konuşma kayıtlarına ve kişisel bilgilerine erişebildiğini keşfetti.

Haberde, araştırmacının yaklaşık 13 milyon konuşma kaydına ve dünya genelinde yaklaşık 68 bin aktif robotla ilişkili verilere erişebildiği aktarıldı. İncelenen kayıtlar arasında ABD’deki çocuklarla ilişkilendirilen 31 binden fazla profilin bulunduğu da belirtildi. Ayrı bir Cybernews haberinde ise Eilik ve Eiliko ürünleriyle ilişkili yaklaşık 8,3 milyon konuşmadan söz ediliyor. Başka bir haberde geçen 9,1 milyonluk sayı da dâhil olmak üzere, farklı yayınlarda aktarılan rakamlar aynı veri kümesini veya aynı inceleme anını temsil etmeyebilir. Bu nedenle sayıların tek bir kesin toplam olarak değerlendirilmesi doğru olmayacaktır.

Araştırmacının bildirdiğine göre sistemde yalnızca konuşma dökümleri değil, kullanıcıların kimliğini ve kişisel yaşamını açığa çıkarabilecek bilgiler de bulunuyordu. Bunlar arasında:

E-posta adresleri ve IP adresleri,
İsimler, yaşlar ve doğum günleri,
Aile üyeleri ve sosyal ilişkiler,
Meslek bilgileri ve kişilik değerlendirmeleri,
Bazı ses kayıtları ve fotoğraflar

yer alıyordu. Bu veriler, kullanıcıların robotlarla gerçekleştirdiği özel konuşmaların ötesinde, onlar hakkında ayrıntılı profiller oluşturulmasına da imkân tanıyabilir. Örneğin bir kişinin kendisini yalnız hissettiğine, ailesiyle sorun yaşadığına veya belirli konularda hassas olduğuna ilişkin değerlendirmeler, kötü niyetli kişiler tarafından hedefli dolandırıcılık girişimlerinde kullanılabilecek bilgiler arasında bulunuyor.

Robotun Davranışları Uzaktan Değiştirilebildi

Olayın dikkat çeken diğer boyutu, araştırmacının yalnızca verilere erişmekle kalmayıp bir robotun davranışlarını da uzaktan değiştirebildiğini göstermesi oldu.

The Verge muhabiri Sean Hollister’ın satın aldığı Eiliko üzerinde gerçekleştirilen gösterimde, robotun hafızası ve yapay zekâ tarafından üretilen yanıtları araştırmacı tarafından değiştirildi. Müdahalenin ardından robot, muhabire gerçekte sahip olmadığı kişisel özellikler ve geçmiş olaylar atfetti; ayrıca Dünya’nın düz olduğunu savunan yanlış ifadeler üretti.

Daha sonraki bir gösterimde robotun uygunsuz ve cinsel içerikli ifadeler kullandığı da bildirildi.

Bu örnekler, yapay zekâlı bir oyuncağın güvenlik sorununun yalnızca topladığı verilerle sınırlı olmadığını ortaya koyuyor. Bir saldırgan, cihazın yanıtlarını etkileyebiliyorsa çocuklara yanlış bilgiler aktarabilir veya yaşlarına uygun olmayan içerikler üretilmesine neden olabilir. Araştırmacının gösterimi, en azından incelenen cihaz üzerinde uzaktan davranış manipülasyonunun mümkün olduğunu ortaya koyuyor. Bununla birlikte, yaklaşık 68 bin robotun tamamının ele geçirildiği veya bu cihazların tümünün aynı yöntemle kontrol edilebildiği gösterilmiş değil.

Ses Kayıtları ve Gizlilik Politikası Arasındaki Çelişki

Energize Lab’ın gizlilik politikası, ses kayıtlarının şifrelendiğini, işlenmek üzere Alibaba Cloud gibi hizmet ortaklarına iletildiğini ve işlem tamamlandıktan sonra silindiğini belirtiyor. Buna karşılık The Verge’in aktardığı araştırmada, bazı ses kayıtlarının ve fotoğrafların yeterli erişim koruması bulunmayan, herkese açık web adresleri üzerinden erişilebilir olduğu bildirildi.

Bu durum, şirketin açıkladığı veri işleme uygulamalarıyla araştırmacının gözlemlediği sistem davranışları arasında önemli bir tutarsızlık bulunduğuna işaret ediyor. Bununla birlikte, hangi kayıtların ne kadar süreyle saklandığı ve her bir veri türünün hangi sistemlerde bulunduğu konusunda tüm ayrıntılar kamuya açık kaynaklardan kesinleştirilemiyor.

Araştırma ayrıca şirketin bazı yönetim hesaplarında zayıf parolalar bulunduğunu öne sürüyor. Bu tür eksiklikler, erişim kontrollerindeki diğer sorunlarla birleştiğinde veri güvenliği risklerini artırabilir. The Verge, şirketle iletişim kurmak için birden fazla e-posta adresi ve LinkedIn üzerinden girişimde bulunduğunu ancak bulgulara ilişkin kapsamlı bir yanıt alamadığını bildirdi. Şirketin kamuya açık, ayrıntılı bir açıklama sunmamış olması, bildirilen güvenlik açıklarının giderilip giderilmediği konusunu belirsiz bırakıyor.

Sorunun Kaynağı Neden Yalnızca Oyuncak Değil?

Eiliko gibi yapay zekâ destekli robotlarda konuşmaların işlenmesi, yanıtların oluşturulması ve bazı kişiselleştirme özellikleri çevrim içi hizmetlere bağlı olabilir. Bu nedenle cihazın fiziksel olarak evde bulunması, konuşmaların yalnızca ev içinde kaldığı anlamına gelmez.

Bu sistemlerde güvenlik, robotun kendisinin yanı sıra mobil uygulamaya, bulut altyapısına, kimlik doğrulama mekanizmalarına ve üreticinin veri saklama politikalarına da bağlıdır. Kullanıcıların robotla yaptığı konuşmalar sunucularda tutuluyor ve bu kayıtlar kişisel profiller oluşturmak için işleniyorsa, bulut sistemindeki bir güvenlik açığı çok sayıda kullanıcının verisini aynı anda riske atabilir. Robotun davranışlarının uzaktan değiştirilebilmesi ise bu riske doğrudan kullanıcı deneyimini etkileyen başka bir boyut ekliyor.