Twitch’in Klip özelliği platformda çocuk istismarının artmasına neden oluyor

Twitch‘in canlı yayın platformunu yönetme
konusunda yaşadığı zorluklara dair Bloomberg tarafından yapılan
araştırmalar içeren bir rapor, endişe verici bir tablo çiziyor.
Özellikle, kullanıcıların kısa videoları kaydetmesine olanak
tanıyan Klip özelliği, platformda ciddi bir sorun oluşturuyor.
Bloomberg’in yaklaşık 1.100 klip analiz ettikten sonra, en az
83’ünde çocukların cinselleştirildiği içerikler
bulduğu belirtiliyor. Twitch, durumdan haberdar
edildikten sonra bu videoları kaldırdı ve şirket sözcüsü, Engadget
e-posta yoluyla, uygulama araçlarına ve önleyici tedbirlere büyük
yatırım yaptıklarını ve yapmaya devam edeceklerini belirtti.

Bloomberg, Klip özelliğinin kalıcı doğasının,
geçici olarak tasarlanmış platformda yarattığı sorunları
örneklendiren bir olayı vurguluyor. Geçen bahar,
Twitch’te sandviç yiyip Fransız çalgısı çalan 12
yaşındaki bir çocuğun hikayesi anlatılıyor. Çocuk, izleyicilerden
gelen isteklere yanıt vermeye başladığında maalesef bu durum,
çocuğun pantolonunu indirmesine yol açıyor ve yayın kesiliyor.

Bloomberg, bu olayın “bir anda” bittiğini ancak Klip özelliğinin
kayıt işlevi yüzünden, çocuklara ait yüzlerce hesabı takip eden bir
izleyicinin bu anı kaydetmesine olanak tanıdığını belirtiyor. Bu
durum, Twitch’e haberdar edilip
Twitch tarafından kaldırılana kadar 20 saniyelik
klibin 130’dan fazla kez izlenmesine yol açtı.

Klip özelliği, 2016 yılında
platformdaki geçici anları korumak amacıyla başlatıldı. Bu özellik,
kayıt butonuna basıldığında önceki 25 saniye ve sonraki 5 saniyeyi
kaydediyor. Ne yazık ki, bu durum, rahatsız edici anların avcılar
tarafından kaydedilip başka yerlere dağıtılmasına neden oluyor.

Twitch, bu yıl Klip özelliğini, platformda daha
fazla TikTok benzeri içerik üretmek amacıyla
genişletmeyi planlıyor. Kullanıcıların kısa videolarını
yayınlayabilecekleri TikTok’a benzer bir keşif akışı başlatmayı
planlıyor.

Bloomberg’in raporu, 83 istismarcı
videoyu inceleyen Kanada Çocuk
Koruma Merkezi’nin sonuçlarını aktarıyor. Merkez, bu
videolardan 34’ünün kamera karşısında genital
bölgelerini gösteren genç kullanıcıları içerdiği sonucuna varıyor.
Çoğunlukla beş ile on iki yaş arası erkek çocuklarını içeren bu
videolar, cinsel içerikli veya tacize maruz kalmış minörleri
içeriyor.

Merkez, en ciddi 34 videonun
2.700 kez izlendiğini, geri kalanların ise 7.300
kez izlendiğini belirtiyor.

Twitch’in Yanıtı

“Herhangi bir yerde, çevrimiçi olarak yaşanan çocuk zararı kabul
edilemez ve bu konuyu son derece ciddiye alıyoruz,” diye bir
Twitch sözcüsü Engadget’a yazdı.
Çocuk cinsel istismar materyalleri (CSAM)
konusunda uyarıldıktan sonra şirket, olası taciz davranışlarını
tespit etmek için yeni modeller geliştirdiğini ve mevcut araçlarını
yasaklı kullanıcıların yeni hesaplar oluşturmasını daha etkili bir
şekilde tespit etmek ve kaldırmak için güncellediğini söylüyor.

Twitch ayrıca, Klip özelliğinin kaynağı olan
canlı yayınların güvenlik ekipleri tarafından uygulanmasını
artırdığını ekliyor. “Bu, zararlı içerik içeren bir canlı yayını
devre dışı bırakıp kanalı askıya aldığımızda, klip oluşturulmasını
ve zararlı kliplerin kaynağında yayılmasını engelliyoruz,” diye
şirket yazıyor. “Önemli olarak, topluluk kurallarımızı ihlal eden
klipleri sildiğimizde ve devre dışı bıraktığımızda, bu kliplerin
kamu alanları veya diğer doğrudan bağlantılar aracılığıyla
erişilebilir olmadığını sağlamak için çalıştık.”

“Ne yazık ki, çevrimiçi zararların
evrimleştiğinin de farkındayız,” diye sözcü devam ediyor. “İç
güvenlik ekiplerimizin bazı evrimleşen çevrimiçi zararları, örneğin
generatif AI destekli Çocuk Cinsel İstismar
Materyali (CSAM) gibi tespit etmek için kullandığı yönergeleri
geliştirdik.” Twitch, benzer içeriği gelecekte engellemek ümidiyle
çalıştığı dış kuruluşların listesini genişlettiğini ekledi.

Twitch’in Moderasyon Sorunları

Bloomberg, Klip özelliğinin Twitch’te en az
yönetilen bölümlerden biri olduğunu bildiriyor. Ayrıca, şirketin
Nisan 2023’te iç güvenlik ve güvenlik ekibinin yüzde 15’ini işten
çıkardığını ve CSAM içeriğini bastırmak için dış ortaklara daha
fazla bağımlı hale geldiğini belirtiyor.

Twitch’in canlı yayına odaklanan platformu,
YouTube veya Instagram gibi daha geleneksel video
sitelerinden daha zor bir moderasyon meydan okuması oluşturuyor. Bu
platformlar, yüklenen videoları daha önce bilinen sorunlu dosyaları
tespit edebilen dijital parmak izleri olan hash’lerle
karşılaştırabilir. “Hash teknolojisi, daha önce görülen bir şeyle
eşleşen bir şey arıyor,” diye Lauren Coffren, ABD Ulusal Kayıp ve
İstismar Edilen Çocuklar Merkezi’nden Bloomberg’e söyledi. “Canlı
yayın demek, bu tamamen yeni bir şey demek.”