ChatGPT’yi tespit eden yapay zeka geliştirildi: DetectGPT

Henüz daha 2023’ün başlarında olsak da yapay zekanın bu yılın trendi olacağını şimdiden görebiliyoruz. Öte yandan OpenAI’ın viral hale gelen ChatGPT ürünü ise gündemde kalmaya devam ediyor. ChatGPT’yi kullanarak üniversite sınavlarını ve ödevlerini geçenler bile oldu. Bu nedenle, artık makine tarafından oluşturulan metni algılayan sistemlere ihtiyaç duyulmaya başlandı. Bu amaçla geliştirilen DetectGPT, yapay zeka tarafından üretilen metni tespit edecek.

DetectGPT, ChatGPT’yi tespit ediyor

Stanford’daki bir araştırma ekibi, yüksek öğrenim düzeyinde kullanılan “üretilmiş metinler” ile mücadele etmeyi amaçlayan DetectGPT adlı yöntemi duyurdu. Bunu esasında Anti-ChatGPT olarak da düşünebiliriz. DetectGPT, büyük dil modelleri tarafından üretilen metnin benzersiz özelliklerinden yararlanan bir metodolojiye dayanıyor.

DetectGPT yöntemi bir yapay zekayı eğitmeye veya metni karşılaştırmak için büyük veri kümelerini toplamaya dayanmıyor. “Sıfır atış” adı verilen bu yöntem, DetectGPT’nin makine tarafından yazılan metni, onu oluşturmak için kullanılan yapay zeka hakkında herhangi bir bilgi sahibi olmadan algılamasına olanak tanıyor. Dolayısıyla bu yöntem doğrudan yapay zeka tarafından üretilen metnin karakteristiğiyle ilgili.

Yapay zekayı tespit eden sistemlere ihtiyaç var

Herhangi bir ek veri veya eğitim gerektirmeyen DetectGPT ve benzer sistemler günümüzün zorunluluklarından olmaya başladı diyebiliriz. Büyük dil modellerinin kullanımı artmaya devam ettikçe makine tarafından oluşturulan metinleri algılamak için ilgili sistemlerin önemi giderek daha kritik hale gelecek. DetectGPT, birçok alanda önemli bir etkiye sahip olabilecek umut verici bir yaklaşım olsa da kapsamı biraz sınırlı. Zira yapay zeka ürünleriyle sadece metin olarak değil görsel ve işitsel olarak da karşılaşmaya başladık. Elbette bu teknolojiler kötü bir amaç için geliştirilmiyor fakat her zaman onları bu doğrultuda kullanmak isteyenler olacaktır. DetectGPT gibi sistemler bu konuda fayda sağlayabilir.