Yapay zekâ ajanları, kurumsal iş süreçlerinde giderek daha fazla görev üstleniyor. Bu nedenle güvenlik, yetkilendirme ve hesap verebilirlik gibi konular, teknolojinin gündemindeki önemli başlıklar arasında yer alıyor. Türkiye merkezli girişim XRack, yapay zekâ ajanlarının yalnızca ürettikleri çıktıları değil, kullandıkları yetkileri, karar alma süreçlerini ve gerçekleştirdikleri işlemleri de denetlenebilir hâle getirmeyi amaçlayan bir platform geliştiriyor.
XRack, kurumlara yönelik geliştirilen bir platform olarak öne çıkıyor. Büyük dil modellerini (LLM), yalnızca sorulara yanıt veren sistemler olmaktan çıkararak; kimlik doğrulama, kurumsal hafıza, politika kontrolü, yetki yönetimi ve denetim mekanizmalarıyla desteklenen yapay zekâ ajanlarına dönüştürmeyi hedefliyor. Platform, yapay zekâ ajanının hangi verilerden yararlanarak karar verdiğini, hangi yetkileri kullanarak işlem gerçekleştirdiğini ve ortaya çıkan sonucun gerçekten gerçekleşip gerçekleşmediğini kayıt altına alıyor.
Girişimin paylaştığı bilgilere göre günümüzdeki yapay zekâ sistemleri, farklı araçlarla entegre çalışabiliyor ve karmaşık analizler gerçekleştirebiliyor. Ancak bir modelin belirli bir işlemi önermesi, o işlemi gerçekleştirme yetkisine sahip olduğu anlamına gelmiyor. Benzer şekilde, bir uygulamanın “işlem tamamlandı” sonucunu üretmesi de gerçek dünyada beklenen sonucun oluştuğunu garanti etmiyor. XRack’in geliştirdiği sistem ise tam olarak bu noktaya odaklanıyor. Platform, yapay zekâ sistemlerinde yetkilendirme, karar alma ve sonuç doğrulama süreçlerini birlikte ele almayı amaçlıyor.
Yapay zekâ kararlarını adım adım takip ediyor
Platform, yapay zekâ ajanlarının karar verirken hangi verileri kullandığını, başvurduğu geçmiş kayıtları, oluşturduğu varsayımları ve tercih ettiği eylemleri ayrıntılı şekilde izliyor. Yapay zekâ herhangi bir işlemi gerçekleştirmeden önce kullanıcının kimliği, kurumsal politikalar, rolü, yetki kapsamı ve risk seviyesi kontrol ediliyor. İşlem tamamlandıktan sonra ise dış sistemler yeniden doğrulanıyor ve sonucun gerçekten gerçekleşip gerçekleşmediği teyit ediliyor.
Örneğin bir yapay zekâ ajanı bir müşteri için iade süreci başlattığında, ödeme işlemi gerçekleştirdiğinde veya kurumsal bir belge üzerinde değişiklik yaptığında, yalnızca “işlem tamamlandı” bilgisi sistem tarafından yeterli kabul edilmiyor. İşlemin hangi kullanıcı adına yapıldığı, hangi yetkiyle gerçekleştirildiği ve gerekli ön koşulların sağlanıp sağlanmadığı da kontrol ediliyor. Ayrıca işlemin ortaya çıkardığı sonucun beklenen çıktıyı karşılayıp karşılamadığı da kayıt altına alınıyor. Böylece kurumlar, yapay zekâ ajanlarının gerçekleştirdiği süreçleri geriye dönük olarak izleyebiliyor, gerektiğinde inceleyebiliyor ve denetleyebiliyor.