Yapay zekâ ekosisteminde hızlı model dağıtımı ile güvenlik standartları arasındaki gerilim yeniden gündeme geldi. OpenAI bünyesinde yaklaşık 3,5 yıl görev yapan ve 12 ileri seviye modelin güvenlik raporlarını denetleyen eski araştırmacı David Robinson, The Atlantic’te yayımlanan yazısında şirketin güvenlik araştırmalarını yeterince önceliklendirmediğini belirterek kurumsal kültürü sert bir dille eleştirdi.

“OpenAI’dan Ayrıldım Çünkü Kültürü Bozuk” başlıklı makalesinde Robinson, yapay zekâ modellerinin ulaştığı yüksek yetenek düzeyi nedeniyle “deneme-yanılma” döneminin sona erdiğini vurguladı. Eski çalışan, mevcut ürün geliştirme süreçlerinin büyük ölçüde sistemler piyasaya sürüldükten sonra ortaya çıkan sorunlara göre şekillendiğini (iteratif dağıtım) belirterek bu yaklaşımın giderek güçlenen otonom sistemlerde geri dönülemez riskler doğurabileceği uyarısında bulundu.

Robinson, yapay zekâ güvenliğinde nükleer enerji ve sivil havacılık sektörlerinde uygulanan çok katmanlı ve yedekli emniyet sistemlerinin örnek alınması gerektiğini savundu. OpenAI’ın sürekli yeni bir lansmana odaklandığını ve ticari rekabet baskısı nedeniyle modellerin risk analizlerine yeterli zamanı ayırmadığını belirten araştırmacı, güvenlik önlemlerinin sistemler kamuoyuna açılmadan önce tamamlanması gerektiğini kaydetti.