İstihbarat Raporunda Yapay Zekâ Skandalı: Copilot Yanlış Bilgi Üretti

İngiltere’de bir istihbarat raporunda yer alan bilgi sonrası yetkililer Microsoft Copilot’ı suçladı. İngiltere’nin en büyük emniyet teşkilatlarından biri olan West Midlands Polisi, bir istihbarat raporunda yer alan atıfta Microsoft Copilot’un, gerçekte hiçbir zaman gerçekleşmemiş West Ham-Maccabi Tel Aviv maçından bahsettiğini söyledi. Bu gerçekleşmemiş maçın bilgisinin doğrulanmadan resmî belgelere sızdığı ortaya çıktı. 

“Uydurma Maç” Güvenlik Kararını Etkiledi

Copilot’un söz konusu ettiği rapor, İsrailli Maccabi Tel Aviv taraftarlarının, Aston Villa ile oynanacak Avrupa Ligi maçında stada alınmamasıyla alakalı olan güvenlik kararında kullanıldı. Copilot’un hakkında yanıldığı bilgi, bu kısımda yaşandı. 

Microsoft: “Copilot Hata Yapabilir”

Microsoft’tan gelen açıklamaya göre doğrudan bu hatanın Copilot tarafından gelmediği belirtildi. Şirket, Copilot’un farklı web kaynaklarını bir araya getiren bir yapay zekâ sistemi olduğunu, kullanıcıları bilgilerin doğruluğunu kontrol etmeleri gerektiği konusunda açıkça uyardığını vurguladı. 

Yapay Zekâ ve Kamu Güvenliği Tartışması

Bu olay sonrası, kolluk kuvvetlerinin ve kamu kurumlarının araştırmaları sırasında veya sonrasında doğrulama yapmasının önemi vurgulanmış oldu. Soruşturmalarda doğrulama yapılmamasının bu tür risklere sebebiyet verebileceği belirtildi. Uzmanlara göre bu vaka, yapay zekânın karar destek sistemi olarak kullanımında insan denetiminin vazgeçilmez olduğunu bir kez daha ortaya koyuyor. 

Related Posts

Yapay Zekâ Ajanları PaperCut Saldırısında Kullanıldı: 395 Kuruluş Etkilendi

Yapay zekânın siber saldırılardaki rolü giderek daha görünür hâle gelirken, PaperCut NG/MF sistemlerini hedef alan yeni bir kampanya dikkat çekici boyutlara ulaştı. GreyNoise tarafından yayımlanan araştırmaya göre, Rusça konuştuğu değerlendirilen…

Claude Kullanıcıları Dikkat: Hackerlar Yapay Zekâ Kotalarını Gizlice Tüketiyor

Yapay zekâ servislerinin iş ve günlük yaşamda daha fazla kullanılmaya başlaması, siber saldırganların hedeflerini de değiştirmeye başladı. Son dönemde Claude kullanıcılarının yapay zekâ kullanım kotalarının kendileri herhangi bir işlem yapmadığı…

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir