Herkesin Kullandığı Lensa AI, Kadınları Objeleştiriyor

Önemli bir gelişme kaydeden yapay zekâ teknolojileri, son zamanlarda ciddi şekilde popülerleşti. DALL-E, Midjourney gibi sistemlerle oluşturulan eserler, internet ortamlarını adeta esir almış durumda. Bununla birlikte insanların avatarlarını oluşturan uygulamalarda da şu sıralarda bir patlama yaşanıyor ve hangi platformda gezersek gezelim yapay zekâ desteğiyle ortaya çıkan bu görselleri görüyoruz.

Prisma Labs tarafından oluşturulan Lensa AI da bunlardan biri. Belli ücretler karşılığında kullanılabilen bu uygulama, ‘Magic Avatars’ yani ‘Sihirli Avatarlar’ olarak adlandırılan bir özelliğe sahip. Bu, kullanıcıların gerçekten de sihirli olarak nitelendirilebilecek avatarlarını oluşturmasını sağlıyor. Ancak bu durum, bazı sorunların da ortaya çıkmasına neden olarak yapay zekânın bir problemini de bizlere gösteriyor. Gelin bu konuya bir göz atalım.

Öncelikle nedir bu Lensa AI? Nasıl çalışıyor?

Lensa AI, bahsettiğimiz gibi Prisma Labs tarafından oluşturulan bir uygulama. Son zamanlarda uygulama mağazalarında zirvede yer alan Lensa, aslında 2018’den beri var. Ancak, bu ayın başlarında sunulan ‘Sihirli Avatarlar’ özelliği popüler olmasını sağladı. Türkiye’de 88 TL’den başlayan fiyatlarla kullanılabilen yapay zekâ destekli bu özellikle birlikte eklediğiniz fotoğraflar, farklı temalardan (fütüristik veya anime karakterlerini andıran görünümler gibi) eşsiz avatarlara dönüştürülebiliyor.

Lensa, internetteki eserlerden oluşan bir veri tabanından yararlanan açık kaynaklı bir yapay zekâ derin öğrenme modeli olan Stable Diffusion’ı kullanıyor. Bu veritabanı, LAION-5B olarak adlandırılıyor ve CLIP isimli sinir ağı tarafından filtrelenen 5,85 milyar metin-görüntü çiftini kullanıyor. 2022 yılında piyasaya sürülen metinden görsel oluşturan derin öğrenme modeli Stable Diffusion’ın geçtiğimiz ay yeni bir sürümü de yayınlanmıştı.

Lensa AI hakkındaki diğer detaylar hakkında ve nasıl kullanılabileceği konusunda bilgi almak istiyorsanız aşağıdaki içeriğimize göz atabilirsiniz;

Lensa AI’ın kadınları objeleştiren avatarlar oluşturduğu söyleniyor

Yapay zekâ sistemleri her ne kadar gelişmiş olsa da hâlen bazı sorunlara sahip. Metinden görsele çeviren yapay zekâların elleri ve parmakları oluşturmada sorun yaşaması buna en iyi örnek olabilir. Ancak Polygon’un aktardığına Lensa’da durum biraz daha farklı.

Son zamanlarda gelen bilgiler, Lensa AI’ın kadınları cinselleştirirdiğini ve bazı ırkçı sonuçlar çıkardığını ortaya koydu. Sosyal medyadaki birçok kullanıcı, uygulamada kadınlara büyük göğüslerin ve dekoltelerin eklendiğini söylerken öyle bir talep bulunmamasına rağmen çıplak görsellerin bile oluşturulduğunu bildirdi.

Kaliforniya Üniversitesi’nden Olivia Snow da Wired’da kaleme aldığı bir yazıda, kendi çocukluğundan fotoğraflar eklediğinde bile uygulamanın onu cinsel obje olarak lanse eden görseller ortaya çıkardığını aktardı. Uygulamanın sahiplerine bu konu hakkında soru yöneltildiğinde ise ekip, Snow’un kullanım koşullarını kasıtlı olarak ihlal ettiğini ifade etti. Lensa’nın politikaları, çıplak fotoğrafları yasaklarken çocukların görsellerinin kullanılmasını da engelliyor. Aynı zamanda kullanıcıların 18 yaşının üstünde olduğunu da beyan etmesi gerekiyor.

Kullanıcılara göre ırkçı sonuçlar ve çıplaklık içeren avatarlar bile var

Tried out the Lensa AI app and fed 20 photos of myself, and I have to say it really struggles with Asian faces. My results were skewed to be more East Asian and I’m absolutely not impressed. pic.twitter.com/WnyLKXQT8K

— Anisa Sanusi 🔜 WASD (@studioanisa) December 3, 2022

Bunlara ek olarak uygulamanın ırkçı stereotiplere de avatarlarda yer verdiği söyleniyor. Örneğin yukarıda bir kullanıcının kendi fotoğraflarını kullanarak oluşturduğu görüntülerde, yapay zekânın Asyalı insanlar konusunda zorlandığı görülebiliyor.

Bunun dışında Asyalı kadınların fetişize edildiği de bildiriliyor. MIT Technology Review’da yazan Melissa Heikkilä isimli Asyalı bir gazeteci, Lensa uygulamasıyla yaşadıklarını aktardı. Buna göre kendi fotoğraflarından oluşturulan avatarlarda yüksek miktarda çıplaklığa yer verildi. Gazeteci, diğer iş arkadaşlarının ise daha az bu tarz bir durumla karşılaştığını belirtti.

Ayrıca yakın zamanda bu yapay zekânın çıplaklık içeren fotoğraflar oluşturmak için kandırılabileceği de ortaya çıktı. TechCrunch’ın paylaştığı bir rapor, kullanıcıların kolay bir şekilde uygulamada çıplaklık içeren fotoğrafları oluşturabildiğini, hatta bunların ünlülerin görselleri ile yapılabildiğini gösterdi. 13 Aralık’ta yeni özellikler getiren Prisma Labs, güvenlik endişelerine yol açan avatarların daha az sıklıkla görülmesini sağlayacaklarını ifade etti.

“Yapay zekâ, toplumumuzun bir yansıması”

Lensa’da yaşananlar, hâlen yapay zekânın önünde uzun bir yol olduğunu ortaya koyuyor. Bilindiği üzere daha önce de birçok kez bu sistemlerde bazı olumsuz durumlar oluşmuştu. Microsoft, geçtiğimiz yıllarda Tay isimli yapay zekâsını ırkçı ve kadın düşmanı yorumlar nedeniyle kapatmıştı. Yakın zamanda Meta da bir dil modelini benzer nedenlerden kapatmıştı.

Haziran ayında yapılan bir araştırma ise Lensa’da gördüğümüz CLIP ağı tarafından eğitilen sistemlerin cinsiyet ve ırk konusunda bazı stereotiplere neden olduğunu ortaya koydu. Buna ek olarak kadınları ve beyaz olmayan insanları tanıma olasılıklarının da düşük olmasına vurgu yaptı.

Lensa da dahil yapay zekâ sistemlerinin bu sorunla nasıl başa çıkacağını ilerleyen zamanlarda göreceğiz. Uygulamanın sahibi Prisma Labs de yaptığı açıklamalarda, Stable Diffusion’ın internetteki filtrelenmemiş veri üzerinde çalıştığını vurgulayarak, ne kendilerinin ne de Stable AI’ın (Stable Diffusion’ın yaratıcısı) bu konuda bir şey yapamayacaklarını söylüyor. Ayrıca verilerin insanlığın mevcut önyargılarını modele tanıttığını söyleyerek yapay zekânın toplumumuza bir ayna tuttuğunu da ekliyor.