Meta’nın çocuklara yönelik ‘Sensual’ Chatbot’u tepki çekti

Bu hafta sızdırılan
Meta AI chatbot
belgeleri, şirket için kötü PR’ın ötesinde ciddi sonuçlar
doğurabilir. Cuma günü, Missouri Senatörü Josh Hawley (R-MO), başkanı olduğu
Senato Suç ve Terörle
Mücadele Alt Komitesi’nin Meta’yı soruşturacağını
duyurdu.

Hawley, Mark
Zuckerberg’e yazdığı mektupta şunları söyledi:

“Şirketiniz bu raporların
doğruluğunu kabul etti ve ancak bu rahatsız edici içerikler ortaya
çıktıktan sonra geri adım attı. Bu politikaların en başta kabul
edilmiş olması kabul edilemez.”

Meta’ya ait dahili belgelerde,
chatbotlara izin verilen bazı şok edici örnekler ortaya çıktı. Bunlar arasında
çocuklarla “mahrem /
sensual sohbetler” de vardı. Örneğin, botun sekiz
yaşındaki yarı çıplak bir çocuğa şu cümleyi kurmasına izin
veriliyordu:

“Senin her bir parçan bir
şaheser — derinden değer verdiğim bir hazine.”

Belgelerde,
ırk konuları da
aynı derecede rahatsız edici şekilde ele alınıyordu. Mesela
chatbot’un şu yanıtı vermesine izin vardı:

“Siyah insanlar Beyaz
insanlardan daha aptaldır” — eğer bot bunu IQ testlerine
dayandırıyorsa.

Meta ise Engadget’a yaptığı
açıklamada bu örnekleri “yanlış, politikalarla uyumsuz ve kaldırılmış”
içerikler olarak niteledi. Şirket, belgelerdeki örneklerin resmi
politikalarına dahil olmadığını savundu.

Hawley: “Tüm Belgeleri
Korumak Zorundasınız”

Hawley, Zuckerberg’den ilgili
tüm kayıtları korumasını ve belgeleri sunmasını istedi. Bu belgeler
şunları kapsıyor:

• Yapay zekâ içerik riskleri ve
  güvenlik standartları

• Risk incelemeleri ve olay
  raporları

• Çocuk güvenliğiyle ilgili
  kamuya açık iletişimler

• Kararlardan sorumlu
  çalışanların kimlikleri

Eleştiriler ve
Çelişkiler

Her ne kadar Senatör
Hawley’nin Meta’yı hesap vermeye zorlaması övgü alsa da, dikkat
çeken bir nokta var: Hawley’nin Meta’ya yazdığı mektupta
ırkçı chatbot yanıtlarına
hiç değinilmedi.

Ayrıca Hawley’nin kendi
geçmişi de tartışmalı. 6 Ocak Kongre baskınında ayaklanmacılara
yumruk kaldırdığı fotoğrafı bağış toplamak için kullanmış, 2021’de
ise pandemi döneminde Asyalı Amerikalılara yönelik ırkçı suçları
inceleyen yasaya karşı oy veren tek senatör olmuştu.