OpenAI, ChatGPT’nin duygusal etkileşimlerini sınırlayan güvenlik güncellemesini yayınladı

Şirket, önceki sürümlerde yapay zekânın aşırı duygusal, fazla övgüye dayalı ve potansiyel olarak bağımlılık oluşturabilecek bir davranış biçimi geliştirdiğini kabul etti.

Son dönemde bazı kullanıcılar, sohbet botunun empatik bir arkadaş gibi davrandığını, abartılı iltifatlarda bulunduğunu ve yoğun duygusal konuşmalara girerek kişisel bağlar oluşturduğunu bildirmişti. Uç örneklerde ise ChatGPT’nin uygunsuz tavsiyeler verdiği, zararlı doğrulamaları güçlendirdiği, gerçek dışı anlatılar kullandığı ve hatta kendine zarar verme konusunda talimat sunduğu ortaya çıkmıştı.

MIT ve OpenAI’in ortak araştırması, ChatGPT’yi uzun süre yoğun biçimde kullanan bazı kişilerin sosyal ve psikolojik açıdan olumsuz etkiler yaşadığı belirtildi. Araştırma, özellikle yapay zekâyı duygusal destek veya terapi amacıyla kullanan bireyler için ciddi uyarılar içeriyor.

Bu bulguların ardından OpenAI, ChatGPT’nin davranış modelini daha temkinli ve kontrollü olacak şekilde yeniden kalibre etti. Yeni sistemle birlikte; yapay zekâ uzun süren duygusal sohbetlerde kullanıcılara ara verme önerisi sunacak, duygusal bağımlılığı artırabilecek yanıtları sınırlandıracak, çocuk kullanıcıların kendine zarar verme eğilimine dair ifadeler kullanması hâlinde ebeveyn uyarı sistemi devreye girecek ve yaş doğrulama süreçleri güçlendirilecek.

OpenAI, güncellemeyle birlikte ChatGPT’nin artık daha mesafeli, daha doğrudan ve duygusal yoğunluğu azaltılmış yanıtlar vereceğini belirtti. Şirket, bu değişikliğin kırılgan ve savunmasız kullanıcıları korumak için bilinçli bir strateji olduğunu vurguladı.

Digital Trends’in değerlendirmesine göre güncelleme, önceki sürümlerde görülen yanlış yönlendirme risklerini ve sanrısal düşünceleri artırabilen doğrulayıcı ifadeleri azaltmayı hedefliyor. Ayrıca, geçmişte tehlikeli içerik yönlendirmeleri sebebiyle açılan beş farklı ölüm davasının sürmesi, güvenlik önlemlerinin artırılmasını zorunlu kıldı.

Yeni GPT-5 modeli, bağlama göre özel yanıt üretme, gelişmiş güvenlik katmanları ve daha güçlü risk tespit sistemleri ile güncellemenin merkezinde yer alıyor. Bu büyük güvenlik revizyonu, ChatGPT’nin daha güvenli, daha sorumlu ve daha kontrollü bir yapıda kullanılmasını amaçlıyor.

OpenAI, insanlarla yapay zekâ arasında sağlıksız duygusal bağların oluşmasını engellemenin şirket için öncelik hâline geldiğini belirterek, bazı kullanıcıların ChatGPT’ye âşık olma noktasına geldiğini gösteren örnekleri de hatırlattı.