Meta’nın otomatik denetleme sistemi endişe yarattı

Holokost inkarı Meta’nın politikalarına göre
nefret söylemi olarak kabul ediliyor. Söz konusu gönderi,
SüngerBob KarePantolon’dan Squidward’ı tasvir
ediyordu ve Holokost hakkındaki gerçekleri içerdiği iddia
ediliyordu. Ancak Gözetim Kurulu, iddiaların “ya apaçık yalan
olduğunu ya da tarihi gerçekleri yanlış yansıttığını” söyledi.

Kullanıcılar, gönderiyi ilk kez Eylül 2020’de yayınlandıktan
sonra altı kez şikayet etti, ancak dört durumda
Meta’nın sistemleri ya içeriğin kuralları ihlal
etmediğini belirledi ya da davayı otomatik olarak kapattı. 2020’nin
başlarında, COVID-19 salgını yayılmaya başladığında Meta, insan
incelemecilerin iş yükünü azaltmak ve yüksek riskli raporların
manuel olarak incelenmesi için bant genişliğini boşaltmak amacıyla
içerik incelemelerini otomatik olarak kapatmaya başladı. Bununla
birlikte, Squidward gönderi raporlarından ikisinin
de gerçek kişiler tarafından ihlale yol açmadığı
değerlendirildi.

Meta’nın otomatik denetleme sistemi endişe yarattı

Geçen Mayıs ayında bir kullanıcı, Meta’nın
rahatsız edici içeriği Instagram‘da bırakma
kararına itiraz etti. Ancak Gözetim Kurulu’na göre, bu itiraz da
Meta tarafından COVID-19 otomasyon politikaları
nedeniyle otomatik olarak kapatıldı. Kullanıcı daha sonra davayı
ele alan kurula başvurdu.

Kurul, Meta’nın platformlarındaki Holokost
inkar içeriğine ilişkin bir değerlendirme yaptı ve
Squidward meme’inin çeşitli türdeki Yahudi karşıtı
anlatıları yaymak için kullanıldığını tespit etti. Bazı
kullanıcıların tespitten kaçmaya çalıştıklarını ve kelimelerin
farklı yazılışlarını (harfleri sembollerle değiştirmek gibi)
kullanarak ve karikatürler ve memler kullanarak Holokost inkar
içeriğini yaymaya devam ettiklerini belirtiyor.

Kurul, Meta’nın Holokost inkar içeriğini
uygulama konusunda ne kadar doğru olduğunu sistematik ve yeterli
bir şekilde ölçtüğünden emin olmak için “teknik adımlar atmasını”
tavsiye etti. Kurul ayrıca Meta’dan, salgının başlangıcı sırasında
oluşturduğu tüm COVID-19 otomasyon politikalarını durdurup
durdurmadığını kamuoyuna doğrulamasını istedi.