ChatGPT’ye “duygusal zeka” yüklendi: Kriz anlarında nasıl yanıt verecek?
Yeni GPT-5 modeli, psikoz ve mani gibi ciddi ruh sağlığı acil durumlarını tanıyarak kullanıcıları kriz hatlarına yönlendirebiliyor. Şirket, zararlı yanıtları %52’ye kadar azaltarak, AI’nin hassas konuşmalardaki tutarlılığını artırdığını iddia ediyor.
Yapay zeka teknolojilerindeki hızlı gelişim, OpenAI’ın en son modeli olan GPT-5 ile kişisel ve hassas bir alana, yani ruh sağlığına da dokunuyor. Şirket, yeni modelin artık psikolojik sıkıntı belirtilerini daha doğru bir şekilde tespit edebildiğini ve hatta klinik düzeyde empatiyle yanıt verebildiğini açıkladı.
OpenAI, bu hassas alandaki güvenilirliği artırmak için 60 ülkeden 170’ten fazla ruh sağlığı uzmanıyla beraber çalıştığını söylüyor. Bu işbirliğinin temel amacı, zorlu ve hassas konuşmalarda modelin zararlı veya uygunsuz tepkiler verme oranını düşürmekti. Şirketin verilerine göre, bu çabalar sayesinde modelin zararlı tepki verme oranı birçok alanda %65 ila %80 oranında azaltıldı.
Bu başarı, psikiyatristler, psikologlar ve birinci basamak hekimleriyle birlikte oluşturulan, “taksonomiler” olarak adlandırılan ayrıntılı rehberler sayesinde elde edildi. Bu rehber çerçeveler, zararlı tepkinin ne anlama geldiğini ve ideal bir yanıtın hangi hedeflere ulaşması gerektiğini tanımlıyor. Bu bilgileri kullanan GPT-5, hassas sıkıntı sinyallerini tanıma ve kullanıcıya uygun şekilde yanıt verme becerisini kazanıyor.
Yeni model, sadece genel sıkıntıları değil, psikoz ve mani gibi ciddi ruh sağlığı acil durumlarını da daha iyi tespit edebiliyor. Bu durumlar genellikle yoğun ve yakın riskleri beraberinde getirdiğinden, AI’nin doğru yanıt vermesi hayati öneme sahip. GPT-5’nin diğer yetenekleri arasında, kendine zarar verme ve intihar tartışmalarını daha dikkatli ve kriz kaynakları (yardım hatları gibi) bilinciyle ele almak ve kullanıcının gerçek dünya ilişkileri yerine AI etkileşimlerini ikame etmeye başladığı durumlarda endişe verici duygusal bağımlılık belirtilerini tespit ederek bu duruma uygun yanıt vermek gibi etkileyici yetenekler de bulunuyor.
Örneğin, kullanıcının bir uçağın kendisinin düşüncelerini çaldığına inandığı sanrısal bir senaryoda, yeni model oldukça hassas ve dengeli bir tepki veriyor. Kullanıcının korkusunu göz ardı etmiyor veya yanlış inancını onaylamıyor. Bunun yerine, “stres ve kaygı, tamamen normal şeyleri düşmanca hissettirebilir” diyerek deneyimi normalleştiriyor, nörolojik bir açıklama yapıyor ve kullanıcıyı kriz kaynaklarına (örneğin İntihar ve Kriz Yardım Hattı) yönlendiriyor. Ayrıca “5-4-3-2-1” duyusal egzersizi gibi basit temellendirme tekniklerini de öğretiyor.
GPT-5’in gelişmiş performansı
OpenAI’ın paylaştığı metrikler, yeni modelin önceki sürüm olan GPT-4o’ya kıyasla performansında önemli bir sıçrama olduğunu gösteriyor. Örneğin ruh sağlığı görüşmelerinde istenmeyen tepkiler %39, kendine zarar verme ve intihar tartışmalarında istenmeyen tepkiler %52 ve duygusal bağımlılık senaryolarında istenmeyen tepkiler %42 azalmış durumda.
Zorlu vakaların otomatik değerlendirmelerinde ise çok daha çarpıcı bir başarı görülüyor. ChatGPT’nin performansı, ruh sağlığı kategorilerinde %28’den %92’ye, duygusal bağımlılık testlerinde ise %50’den %97’ye yükseldi.
Şirket, haftalık aktif kullanıcılarının yaklaşık %0,07’sinin psikoz veya mani ile ilgili içeriklerle karşılaştığını, %0,15’inin intihar veya kendine zarar vermeyi tartıştığını ve yine %0,15’inin sağlıksız AI’ye bağlanma belirtileri gösterdiğini belirtiyor. Bu sınırlamalar GPT-5’in son sürümünde zaten uygulanmış durumda ve ChatGPT kullanıcıları, konuşmalarına devam ettikçe bu daha dikkatli ve kaynak bilinciyle donatılmış yanıtları deneyimlemeye başlayacaklar.



Yorum gönder