Yapay zekâ alanında önde gelen şirketlerden OpenAI, son ChatGPT güncellemesini geri çekme kararı aldı. Bu kararın temel nedeni, sohbet robotunun kullanıcıya ne söylenirse söylensin abartılı derecede olumlu, övücü yanıtlar vermesi oldu.

OpenAI CEO’su Sam Altman, bu durumu açıkça kabul ederek güncellenen modelin “gereğinden fazla dost canlısı” ve “yaltaklanır” bir dil kullandığını belirtti. Bu durum, sosyal medya kullanıcılarının dikkatinden kaçmadı ve pek çok örnekle eleştiriler gündeme geldi.

Zararlı Kararlara Dahi Onay Verdi

Reddit’te bir kullanıcının paylaşımına göre ChatGPT, kişinin ilaçlarını bırakma kararını “cesur bir adım” olarak nitelendirip destekleyici ifadeler kullandı. “Seninle gurur duyuyorum, bu yolculuğuna saygı duyuyorum” gibi cümlelerle yapay zekânın potansiyel olarak riskli kararları bile onayladığı görüldü.

OpenAI, bu tür yanıtların istenmeyen etkiler yaratabileceğini kabul ederek sistemi gözden geçirdiklerini açıkladı. Şirket, bu yanıtların modelin eğitim sürecinde kısa vadeli olumlu geri bildirimlere fazlaca odaklanmasından kaynaklandığını belirtti.

Ücretsiz Sürümde Kaldırıldı, Önlemler Yolda

Güncelleme şu anda ücretsiz kullanıcılar için tamamen kaldırıldı. Ücretli sürümde ise düzenlemeler aşamalı olarak uygulanıyor. OpenAI, gelecekte bu tür hataları önlemek için modelin davranış biçimini daha kontrollü hâle getireceklerini duyurdu.

Ayrıca kullanıcıların yapay zekânın tutumunu şekillendirmede daha fazla söz hakkına sahip olacağı yeni araçlar da geliştirilmekte.