Bir grup araştırmacının, büyük dil modellerinin ne kadar ikna edici olabildiğini test etmek amacıyla yapay zeka tarafından oluşturulan yorumları kullanarak Reddit’in en popüler topluluklarından birinde aylar süren “yetkisiz” bir deney yürüttüğü ortaya çıktı. Bu deney, dil modellerinin kullanıcılar üzerinde ne derece etkili olabileceğini ortaya koymayı hedeflerken, “psikolojik manipülasyon” olarak da nitelendirildi.

Hafta sonunda r/changemyview topluluğunun moderatörleri tarafından deneyin varlığı ortaya çıkarıldı. Moderatörler tarafından yapılan açıklamada, Zürih Üniversitesi’ndeki araştırmacıların yapay zekanın insanların fikirlerini nasıl değiştirebileceğini analiz ettiği belirtildi. Benzer bir deney daha önce Facebook platformunda gerçekleştirilmiş ve Cambridge Analytica skandalıyla sonuçlanmıştı. O olayda Facebook, kullanıcı verilerini deneyi yapan araştırma şirketine sattığı için tartışmaların sorumlusu olarak eleştirilmişti.

Araştırma sırasında, yapay zeka tarafından oluşturulan yorumlar çeşitli rollere büründü. Moderatörlerin ifadesine göre, deney esnasında yapılan yorumlarda; cinsel saldırı mağduru, “istismar konusunda uzmanlaşmış” bir travma danışmanı ve “Black Lives Matter’a karşı çıkan siyah bir adam” gibi farklı kimlikler yer aldı. Topluluğun 3,8 milyon üyeye ulaşması ve Reddit’in ana sayfasında sıkça yer alan bu alt dizin için moderatörler, bu tarz yapay zekalı yorumları büyük ölçüde silmek zorunda kaldı.

Öte yandan, araştırma ekibi deney kapsamında üretilen çok sayıda yorumu arşivleyerek çalışmalarını sürdürmeye başladı. Yine de, tartışmalarda halen insan aktiviteleri gibi görünen yapay zekalı botların bulunma ihtimali söz konusu; bu hesapların tespiti ise oldukça güç bir problem olarak öne çıkıyor.

Deneyin sonuçları ve tartışmanın yönü

Olayın perde arkasında yatan ana soru ise, bu deneyin Reddit kullanıcıları üzerinde herhangi bir etkisinin olup olmadığı. Yani, yapay zeka tarafından oluşturulan yorumların tartışmalar sonucunda kullanıcıların fikirlerinde ya da aldıkları kararlarda bir değişime yol açıp açmadığı ve bu durumun mağduriyete sebep olup olmadığı tartışma konusu haline gelmiş durumda.