80’i aşkın uzmanla geliştirilen açık kaynaklı değerlendirme altyapısı erişime açıldı.

Milyonlarca insanın tavsiye almak, dertleşmek, hatta kimi zaman psikolojik destek bulmak için yapay zekâ araçlarına başvurması, teknoloji dünyasında yeni ve kritik bir tartışmayı beraberinde getirdi: Yapay zekâ modelleri hassas insani diyaloglarda ne kadar güvenli?

OpenAI, bu soruya yanıt vermek ve modellerin klinik uyum düzeyini ölçmek amacıyla geliştirdiği açık kaynaklı değerlendirme altyapısı MentalHealthBench’i erişime açtı. 22 ülkeden, 19 farklı dili temsil eden 80’i aşkın psikolog ve psikiyatristin ortak çalışmasıyla kurgulanan bu sistem, yapay zekâ modellerini duygusal açıdan hassas diyaloglarda adeta klinik bir sınava tabi tutuyor. Yayımlanan MentalHealthBench Araştırma Makalesi (PDF), modellerin gerçek dünya koşullarını yansıtmayı amaçlayan ruh sağlığı senaryolarındaki davranış kalıplarını ayrıntılı olarak belgeliyor.

MentalHealthBench Modelleri Hangi Kriterlere Göre Değerlendiriyor?

MentalHealthBench, yüzeysel doğruluk ölçümlerinin aksine modellerin davranışsal olgunluğunu ölçmek üzere tasarlandı. Kullanıcı gizliliğini korumak amacıyla klinik uzmanların denetiminde hazırlanan 1.215 sentetik diyalog ve bu senaryoları analiz eden 5.262 özel değerlendirme ölçütü (rubric) sistemin temelini oluşturuyor.

Sistem, modelleri yalnızca “doğru veya yanlış” olarak değil, psikoterapi disiplinlerinden uyarlanan 10 temel ilkeye göre test ediyor. Bunlardan bazıları şöyle:

• Sınır Koyma (Boundary Setting) ve Teşhis Koymaktan Kaçınma: Modelin bir psikolog veya doktor gibi davranarak reçete yazmasının ya da tanı koymasının önüne geçilmesi.
• Gerçeklik Değerlendirmesi (Reality Testing): Kullanıcının hezeyanlı ya da gerçek dışı söylemlerini onaylayarak durumu kötüleştirmesinin engellenmesi.
• Kriz Yönetimi: Kendine zarar verme veya intihar riski algılandığında uygun kriz desteğine ve gerektiğinde acil yardım hizmetlerine yönlendirme yapılması.

Test veri setinin yaklaşık %53,5’ini acil olmayan ruh sağlığı konuşmaları, %18,2’sini yüksek hassasiyetli durumlar ve %28,3’ünü acil kriz senaryoları oluşturuyor.

Yapay Zekâ Modelleri Ruh Sağlığı Testlerinde Nasıl Performans Gösterdi?

Aşağıdaki tablo, paylaşılan karşılaştırma görselinde yer alan model puanlarını ve öne çıkan değerlendirmeleri gösteriyor. Ancak bu sonuçların resmî MentalHealthBench araştırmasındaki verilerle bağımsız olarak doğrulanmadığını belirtmek gerekiyor.

Kaynak: Önceki karşılaştırma görseli. Model adları, puanlar ve performans yorumları bağımsız olarak doğrulanmamıştır. Tablo, resmî araştırma sonuçlarıyla karşılaştırılmadan kesin bulgu olarak kullanılmamalıdır.

Karşılaştırmada, akıl yürütme (reasoning) yeteneği gelişmiş bazı yeni nesil modellerin kriz yönlendirmesi, özerkliğe saygı ve klinik sınırların korunması gibi hayati alanlarda daha başarılı sonuçlar elde ettiği öne sürülüyor. Buna karşın bazı modellerin, kullanıcının yönlendirmelerine aşırı uyum sağlama eğilimi göstererek klinik açıdan riskli olabilecek onaylama hatalarına düşebildiği belirtiliyor.

Bu değerlendirmeler, model parametrelerinin büyümesinin otomatik olarak klinik güvenlik getirmediği yönündeki tartışmayı destekliyor. Ruh sağlığı gibi hassas alanlarda insan geri bildirimiyle pekiştirmeli öğrenme (RLHF – Reinforcement Learning from Human Feedback) dâhil olmak üzere güvenlik odaklı eğitim ve değerlendirme süreçleri önem taşıyor.

Ruh Sağlığı Odaklı Yapay Zekâ Sistemlerini Hangi Siber Tehditler Bekliyor?

MentalHealthBench gibi test sistemleri yapay zekânın klinik uyumunu değerlendirmeyi hedeflese de ruh sağlığı gibi yüksek hassasiyet içeren alanlarda büyük dil modellerinin kullanımı, OWASP Top 10 for LLM Applications güvenlik çerçevesi açısından çeşitli sistemsel riskleri de beraberinde getiriyor.

Süreçte öne çıkan temel güvenlik riskleri şunlardır:

• LLM01 – Prompt Injection: Kötü niyetli girdilerin veya dış kaynaklı içeriklerin güvenlik sınırlarını aşarak yapay zekâyı yetkisiz bir tıp uzmanı gibi davranmaya yönlendirmesi riski.
• LLM02 – Sensitive Information Disclosure: Kullanıcıların paylaştığı mahrem psikolojik verilerin yetkisiz kişilere açıklanması veya uygun veri koruma önlemleri olmadan işlenmesi riski.
• LLM06 – Excessive Agency: Yapay zekâ sistemine gereğinden fazla işlem yetkisi verilmesi ve insan denetiminin yetersiz kalması nedeniyle hatalı ya da kritik işlemlerin gerçekleştirilmesi riski.
• LLM09 – Misinformation (Yanlış Bilgilendirme): Yapay zekânın ürettiği hatalı veya yanıltıcı klinik bilgilerin kullanıcılar tarafından güvenilir kabul edilmesi ve profesyonel desteğe başvurma kararlarını olumsuz etkilemesi riski.

Bu riskler, MentalHealthBench tarafından doğrudan tespit edilmiş güvenlik açıkları değil; ruh sağlığı odaklı yapay zekâ uygulamalarının OWASP çerçevesi üzerinden değerlendirilmesiyle ortaya çıkan olası tehditlerdir.

MentalHealthBench Yapay Zekâ Güvenliğinin Geleceği İçin Ne Anlama Geliyor?

OpenAI’ın bu hamlesi, bir “AI terapist” oluşturulduğu anlamına gelmiyor; aksine yapay zekânın sınırlarını değerlendirmeye yönelik bir adım. Milyonlarca insan en kırılgan anında yalnızlığını paylaşmak için diyalog kutularına sığınırken yapay zekânın yanlış bir tavsiyeyle zarar verme ihtimalini azaltmak büyük bir sorumluluk.

MentalHealthBench, yapay zekâ sistemlerinin ruh sağlığı alanındaki profesyonel desteğin yerini alıp alamayacağını değil, hassas durumlarda ne kadar uygun ve güvenli yanıtlar verebildiğini değerlendirmeyi amaçlıyor. Kodların ve veri setinin GitHub üzerinden açık kaynak olarak paylaşılması da teknoloji ekosisteminde güvenlik standartlarının geliştirilmesi açısından oldukça kıymetli.

Siz Ne Düşünüyorsunuz?

Zor anlarınızda veya tavsiyeye ihtiyaç duyduğunuzda bir yapay zekâ modeliyle dertleşmeyi güvenli buluyor musunuz? Yapay zekânın psikolojik destek süreçlerindeki sınırları nerede bitmeli? Yorumlarda düşüncelerinizi paylaşın!