ChatGPT’de yeni dönem! Otomatik analiz ve kimlik kontrolü geliyor

Yapay zekâ devi OpenAI, çocuk kullanıcıların güvenliğini artırmak amacıyla bu ay içinde ebeveyn kontrolü özelliğini devreye almayı planlıyor. Şirket bu hamle ile çocuk ve genç kullanıcıların ChatGPT ile olan etkileşimlerini daha güvenli ve yaşlarına uygun hâle getirmeyi hedefliyor.

YAŞI OTOMATİK ANALİZ EDECEK

Bununla birlikte OpenAI, kullanıcıların yaşını otomatik olarak analiz edebilen bir sistem üzerinde de çalışıyor. Yeni sisteme göre, eğer bir kullanıcının 18 yaşın altında olduğu tespit edilirse, ChatGPT ona göre özel olarak sınırlanmış ve güvenli bir arayüzle cevap verecek.

KİMLİK DOĞRULAMASI DA GÜNDEMDE

Şirket CEO’su Sam Altman, yaş tahmininin kullanıcı davranışlarına göre belirleneceğini, şüpheye düşülen durumlarda ise güvenlik önceliği gereği sistemin otomatik olarak ’18 yaş altı’ moduna geçeceğini açıkladı. Altman ayrıca bazı ülkelerde veya istisnai durumlarda kimlik doğrulaması da talep edilebileceğini belirtti.

Altman, “Yetişkin kullanıcıların mahremiyetinden taviz verildiğinin farkındayız, ancak bu, çocukları korumak adına kabul edilebilir bir denge” dedi.

GENÇ KULLANICILARA KATI KISITLAMALAR

• Yeni güvenlik önlemleri kapsamında, 18 yaşından küçük kullanıcılar için flört içerikleri ya da intiharla ilgili yönlendirmeler kesin şekilde engellenecek.
• Ayrıca bir çocuk, yapay zekâya intihar düşüncesinden bahsederse, sistemin ebeveynlerle iletişime geçmesi ve gerekirse yetkilileri bilgilendirmesi sağlanacak.

Bu güvenlik adımları, kısa süre önce ABD’de açılan yüksek profilli bir davanın ardından geldi. Davada, bir ailenin ChatGPT’yi, genç oğullarını intihara teşvik etmekle suçladığı ve bu nedenle şirketin ciddi bir inceleme altında olduğu belirtiliyor.