Site simgesi Siber Havadis

OpenAI, Yapay Zekâ Güvenliği İçin Dört Kuruluşla Anlaştı

Kütüphane salonu ve yapay zekâ ikonu; OpenAI’nin dört kuruluşla güvenlik anlaşmasını anlatan kapak

OpenAI, 16 Kasım 2026’da dört bağımsız kuruluşla güvenlik değerlendirme anlaşması duyurdu.

OpenAI, gelişmiş yapay zekâ modellerinin güvenliğini bağımsız araştırmacılarla değerlendirmek için yeni bir iş birliği başlattı. Apollo Research, METR, Goodfire ve Transluce ile yapılan anlaşmalar kapsamında dış uzmanlar, şirketin henüz yayımlanmamış modellerine, eğitim verilerine ve güvenlik sistemlerine belirli koşullarla erişebilecek. Çalışmalar, modellerin beklenmeyen davranışlarını ve mevcut güvenlik önlemlerinin etkinliğini incelemeyi hedefliyor.

OpenAI, 16 Kasım 2026 tarihinde yayımladığı açıklamayla yapay zekâ güvenliği çalışmalarında bağımsız araştırmacıların rolünü genişleteceğini duyurdu. Şirket, embedded assessments olarak adlandırdığı yeni yaklaşım kapsamında dört bağımsız araştırma kuruluşuyla anlaşma imzaladığını açıkladı.

Bu modelde dış araştırmacılar, yapay zekâ sistemlerini yalnızca kullanıma sunulduktan sonra test etmek yerine geliştirme, eğitim ve şirket içi kullanım aşamalarında da değerlendirebilecek.

Araştırmacılara çalışmaların kapsamına bağlı olarak model kontrol noktaları, kaynak kodları, eğitim ve değerlendirme verileri, izleme sistemleri ve teknik belgelere erişim sağlanacak.

OpenAI, bu yöntemin şirket içi güvenlik değerlendirmelerinde gözden kaçabilecek risklerin tespit edilmesine ve mevcut koruma mekanizmalarının bağımsız biçimde incelenmesine yardımcı olmasını amaçlıyor.

Bağımsız araştırmacılar hangi güvenlik risklerini inceleyecek?

Programın temel amacı, gelişmiş yapay zekâ modellerinin yalnızca belirlenen görevleri yerine getirip getirmediğini değil, bunu yaparken geliştiricilerin güvenlik hedeflerine uygun davranıp davranmadığını değerlendirmek.

Yapay zekâ sistemlerinde model alignment (model hizalaması), modellerin davranışlarının insan amaçları ve belirlenen güvenlik ilkeleriyle uyumlu olmasını ifade ediyor.

Ancak bir modelin test sırasında güvenli görünmesi, farklı kullanım koşullarında aynı şekilde davranacağını tek başına garanti etmiyor.

Özellikle otonom görevler yürütebilen yapay zekâ ajanlarının yaygınlaşmasıyla birlikte, modellerin güvenlik kontrollerini aşması, istenmeyen davranışları gizlemesi veya izleme mekanizmalarının tespit edemediği eylemler gerçekleştirmesi gibi olasılıklar daha fazla araştırılıyor.

OpenAI’ın yeni iş birliği, bu risklerin model geliştirme sürecinin farklı aşamalarında değerlendirilmesine odaklanıyor.

Apollo Research, modellerin gizli davranışlarını araştıracak

Programın önemli bileşenlerinden biri, yapay zekâ sistemlerindeki aldatıcı ve hedeflerden sapmış davranışlar üzerine çalışan Apollo Research ile yürütülecek değerlendirme.

Apollo Research, altı araştırmacıdan oluşan bir ekibin dört ay boyunca OpenAI bünyesinde belirlenen sistemlere erişerek incelemeler gerçekleştireceğini açıkladı.

Araştırmacılar, modellerin kendilerini veya daha sonra geliştirilecek modelleri insan kontrolü altında tutan mekanizmaları zayıflatmaya yönelik girişimlerde bulunup bulunmadığını değerlendirecek.

AI subversion olarak adlandırılan bu risk, modelin kendisine uygulanan güvenlik veya kontrol mekanizmalarını etkisizleştirmeye yönelik davranışlarını kapsıyor.

Apollo Research, değerlendirmeyi dört temel soru üzerine kuruyor: Eğitim sürecinin bu tür davranışları teşvik edip etmediği, güvenlik testlerinin söz konusu davranışları ortaya çıkarıp çıkaramadığı, modellerin şirket içi kullanım sırasında benzer girişimlerde bulunup bulunmadığı ve bu davranışların arkasındaki akıl yürütmenin tespit edilip edilemediği.

Araştırmacılar bu kapsamda eğitim kayıtlarını, pekiştirmeli öğrenme süreçlerini, modelin farklı geliştirme aşamalarındaki sürümlerini ve mevcut izleme mekanizmalarını inceleyebilecek.

METR ve Goodfire farklı güvenlik alanlarına odaklanacak

İş birliğine katılan kuruluşlardan METR, OpenAI’ın bugüne kadarki en büyük pekiştirmeli öğrenme (Reinforcement Learning – RL) eğitim çalışmasında modellerin güvenlik hedeflerinden sapma olasılığını değerlendirecek.

Araştırmacılar, mevcut güvenlik testleri veya izleme sistemleri tarafından fark edilmemiş olabilecek davranışları araştıracak.

METR’nin çalışma alanlarından biri de yapay zekâ ajanlarını izlemek için kullanılan sistemlerin etkinliğinin değerlendirilmesi olacak. Kuruluş, daha önce OpenAI’ın şirket içi izleme altyapısına yönelik üç haftalık bir red teaming çalışmasına katılmıştı.

22 Ekim’de yayımlanan araştırmada, incelenen önceki izleme sisteminde bazı güvenlik zayıflıkları tespit edildiği açıklanmıştı. Ancak bu bulgular, daha sonra yapılan değişikliklerle genişletilen mevcut sistemin tamamının aynı sorunları taşıdığını göstermiyor.

Goodfire ise interpretability (yorumlanabilirlik) alanında çalışmalar yürütecek.

Yorumlanabilirlik araştırmaları, yapay zekâ modellerinin iç işleyişini ve belirli çıktıları oluşturan mekanizmaları daha iyi anlamayı amaçlıyor.

Goodfire’ın araştırmacıları, modellerin iç yapılarını analiz ederek eğitim süreçlerindeki olası sorunları tespit etmeye ve model hizalamasının geliştirilmesine katkı sağlamaya çalışacak.

Transluce, güvenlik değerlendirmelerinin yeterliliğini inceleyecek

Programın dördüncü kuruluşu Transluce, OpenAI’ın eğitim sonrasında gerçekleştirdiği güvenlik ve model hizalama değerlendirmelerinin kalitesini inceleyecek.

Bu çalışmada, kullanılan testlerin hangi davranışları tespit edebildiği ve hangi riskleri gözden kaçırabileceği araştırılacak.

Transluce araştırmacılarına seçilmiş modeller, mevcut değerlendirme sonuçları, model davranış verileri ve güvenlik belgeleri üzerinde inceleme yapabilecekleri erişim imkânı sağlanacak.

OpenAI ve Transluce ayrıca 2027’nin başlarında yaklaşık sekiz hafta sürecek daha kapsamlı bir takip değerlendirmesi gerçekleştirmeyi hedefliyor.

Planlanan ikinci aşamada, daha fazla modele erişim sağlanması ve güvenlik testlerinin sonuçlarının modellerin kullanıma sunulmasına ilişkin kararları nasıl etkilediğinin incelenmesi öngörülüyor.

Araştırmacıların şirket içi sistemlere erişimi nasıl sağlanacak?

Bağımsız uzmanların henüz yayımlanmamış modellere ve hassas geliştirme verilerine erişmesi, güvenlik ve gizlilik açısından yeni sorumluluklar oluşturuyor.

OpenAI’ın açıklamasına göre gizli şirket bilgileriyle çalışması gereken araştırmacılar, değerlendirmelerini OpenAI ofislerinde gerçekleştirecek ve şirket tarafından sağlanan cihazları kullanacak.

Araştırmacıların deney ve değerlendirme süreçlerinde en az OpenAI çalışanları için geçerli olan güvenlik standartlarına uyması bekleniyor.

Ancak bu erişim, şirket içindeki bütün sistemlerin sınırsız biçimde incelenebileceği anlamına gelmiyor.

Her değerlendirme için araştırma kapsamı, erişim izinleri ve güvenlik koşulları önceden belirlenecek. OpenAI, fikrî mülkiyetin korunması, teknik sınırlamalar veya güvenlik riskleri nedeniyle bazı verilere doğrudan erişimi kısıtlayabilecek.

Gerektiğinde dış araştırmacıların OpenAI mühendisleriyle birlikte analiz gerçekleştirmesi gibi alternatif yöntemler de kullanılabilecek.

Bağımsız denetimlerin sonuçları kamuoyuyla paylaşılabilecek mi?

Programın dikkat çeken konularından biri, bağımsız araştırmacıların elde ettikleri bulguları ne ölçüde kamuoyuyla paylaşabilecekleri.

OpenAI, araştırmacıların değerlendirme sonuçlarını bağımsız biçimde yayımlayabileceğini belirtiyor. Bununla birlikte ticari açıdan gizli bilgilerin çıkarılmasını ve güvenlik riski oluşturabilecek teknik ayrıntıların açıklanmasının ertelenmesini talep edebilecek.

Apollo Research ise kendi duyurusunda bağımsız değerlendirmelerin güvenilirliği için yalnızca teknik erişimin değil, bulguların açıklanabilmesinin ve denetim sınırlarının kamuoyuna bildirilebilmesinin de önemli olduğunu vurguluyor.

Kuruluş, OpenAI ile yürütülecek çalışmada iki ayrı kamuya açık rapor hazırlamayı planlıyor.

Apollo Research’ün açıklamasına göre OpenAI, değerlendirme sonuçlarının yalnızca olumsuz olduğu gerekçesiyle raporlardan çıkarılmasını talep edemeyecek. Ancak gizli teknik bilgilerin ve bazı destekleyici kanıtların yayımlanması sınırlandırılabilecek.

Bu durum, bağımsız araştırmacıların vardıkları sonuçları açıklayabilmesine karşın kamuoyunun her zaman bu sonuçları destekleyen bütün teknik verilere erişemeyebileceği anlamına geliyor.

OpenAI Foundation Yönetim Kurulunun Güvenlik ve Koruma Komitesi (Safety and Security Committee) ise değerlendirme raporlarının herhangi bir bölümü çıkarılmamış hâllerine erişebilecek.

Bağımsız değerlendirmeler yapay zekâ güvenliğinde ne değiştirebilir?

OpenAI’ın duyurduğu çalışma, gelişmiş yapay zekâ sistemlerinin güvenliğinin yalnızca modeller piyasaya sürülmeden önce yapılan testlerle değerlendirilmesinin yeterli olup olmadığı tartışmasını yeniden gündeme getiriyor.

Geleneksel dış değerlendirmelerde araştırmacılar çoğunlukla tamamlanmış modellere veya sınırlı test arayüzlerine erişebiliyor. Yeni yaklaşım ise eğitim süreci, ara model sürümleri ve şirket içi kullanım kayıtları gibi daha önce dış uzmanlara daha az erişilebilir olan alanları da kapsıyor.

Böylece araştırmacıların yalnızca modelin ürettiği çıktıları değil, güvenlik sorunlarının nasıl ortaya çıkabileceğini ve şirketin bu sorunları tespit etmek için kullandığı mekanizmaları da incelemesi amaçlanıyor.

Bununla birlikte program henüz pilot aşamada bulunuyor. Araştırmacılara sağlanacak erişimin kapsamı, değerlendirmelerin bağımsızlığı ve yayımlanabilecek bulguların sınırları, çalışmaların sonuçlarının nasıl yorumlanacağını doğrudan etkileyecek.

OpenAI, ilk aşamadan elde edilen deneyimlerin gelecekte daha kapsamlı ve sürekli bağımsız güvenlik değerlendirmelerine temel oluşturmasını hedefliyor.

Programın yapay zekâ güvenliğine sağlayacağı somut katkı ise bağımsız kuruluşların gerçekleştireceği araştırmaların sonuçlarıyla daha net değerlendirilebilecek.

Kaynaklar

Mobil sürümden çık