OpenAI, yapay zeka destekli sohbet robotu ChatGPT ile yapılan görüşmelerde her hafta bir milyondan fazla kullanıcının potansiyel intihar planı veya niyetine dair göstergeler sergilediğini açıkladı. Yeni GPT-5 sürümü ise ruh sağlığı yanıtlarında önceki modele göre %65 daha başarılı.
OpenAI’da ruh sağlığı endişesi
OpenAI’nın blog yazısında, haftalık aktif kullanıcıların yaklaşık %0,15’inin potansiyel intihar planı veya niyetine dair açık göstergeler içeren konuşmalar yaptığı belirtildi. Bu, haftalık 800 milyondan fazla kullanıcı üzerinden hesaplandığında yaklaşık 1,2 milyon kişiye karşılık geliyor.
Ayrıca, kullanıcıların %0,07’si, yani 560.000 kişi, psikoz veya mani durumlarıyla ilişkili olabilecek potansiyel acil ruh sağlığı belirtileri gösteriyor. Şirket, bu verilerin başlangıç niteliğinde olduğunu vurguladı.
GPT-5 ile güvenlik önlemleri artıyor
OpenAI, GPT-5’in önceki sürüme göre ruh sağlığı sorunlarına yaklaşık %65 daha fazla “istenilen yanıtlar” sağladığını açıkladı. Yeni model, istenen davranışlarla uyum açısından %91 oranında başarılı olurken, önceki sürümde bu oran %77 idi.
Uzun sohbetlerde de GPT-5, güvenlik önlemlerine daha iyi uyum sağlıyor. Kullanıcıların kriz müdahale hattı erişimi genişletildi ve sohbet sırasında ara vermeleri hatırlatılıyor. Bu iyileştirmeler, 170 klinik uzmanın desteğiyle hayata geçirildi.
OpenAI, ayrıca çocuk kullanıcıları korumak için bir yaş tahmin sistemi geliştirdi ve bu kullanıcılara daha sıkı önlemler uygulamaya başladı. Ayrıca, AI modellerinin temel güvenlik testlerine duygusal bağımlılık ve intihar dışı acil ruh sağlığı durumları için yeni kıstaslar eklendi.
Şirket, ChatGPT kullanıcılarının karşılaştığı en ciddi ruh sağlığı sorunlarını ölçmek amacıyla yeni değerlendirmeler de ekledi.
