TikTok, BBC Araştırması Sonrası Seksüalize Edilmiş Siyah Kadın AI Videolarını Kaldırdı

TikTok, BBC'nin yaptığı bir araştırma sonucunda, yapay zeka (AI) tarafından oluşturulmuş ve cinsel içerikli paylaşımlar yapan siyah kadın karakterlerin kullanıldığı videoları platformdan kaldırdı. Bu videoların, kullanıcıları ücretli ve müstehcen içeriklere yönlendirdiği tespit edildi. TikTok, BBC'nin bulguları üzerine 20 hesabı kapattı.

AI Avatarlar ve Irkçı Stereotipler

Bu olay, Instagram ve TikTok'ta giderek yaygınlaşan bir trendin parçası. Söz konusu hesaplar, ırkçı stereotipler ve kullanılan dil nedeniyle eleştiriliyor. BBC ve bağımsız AI yayın kuruluşu Riddance'dan araştırmacılar, her iki platformda da aşırı derecede seksüalize edilmiş siyah kadın dijital karakterleri veya avatarlarını içeren düzinelerce hesap tespit etti.

Görseller ve videolar AI tarafından oluşturulmuş olmasına rağmen, platformların kurallarını ihlal eder şekilde bu durum belirtilmemişti. Hesapların neredeyse tamamı Instagram'da bulunurken, yaklaşık üçte birinin TikTok'ta da versiyonları vardı. Instagram'ın ana şirketi Meta, BBC'ye soruşturma başlattığını söyledi ancak herhangi bir işlem yapıp yapmadığına dair bilgi vermedi.

Karanlık Cilt Tonları ve Müstehcen İçerik

Avatarlar genellikle açık saçık kıyafetler veya abartılı vücut hatlarıyla tasvir ediliyor. Bazılarının cilt tonları dijital olarak manipüle edilerek yapay bir görünüm verilmiş. Hesap adları arasında "black", "noir", "dark" ve "ebony" gibi terimler yer alıyor. Birçoğu, gönderilerinde beyaz erkeklerle ilgili yorumlar içeriyor; örneğin "beyaz erkekleri seviyor" ve "neden hayatımda beyaz bir adama ihtiyacım var" gibi ifadeler kullanılıyor. Hesapların çoğu birbirini takip ediyor veya beğeniyor.

BBC, Riddance'dan analistler Jeremy Carrasco ve Angel Nulani ile işbirliği yaparak, çoğunlukla Instagram'da bulunan ve üçüncü taraf sitelerdeki ücretli, cinsel içerikli materyallere bağlantılar içeren 60'tan fazla hesap belirledi. Siteler, görselleri AI tarafından oluşturulmuş olarak etiketlerken, Instagram hesapları bu bilgiyi paylaşmıyordu.

Gerçek Kişilerin Videolarının Çalınması

TikTok tarafından kapatılan hesaplardan biri, gerçek kişilerin videolarını çalarak daha da fazla tepki çekti. Bu hesap, dikkat çekici bir AI karakteri olarak sunuluyordu ve Aralık ayında oluşturulduktan birkaç hafta sonra üç milyon takipçi toplamıştı. Ancak Malezyalı model Riya Ulan'ın videolarını değiştirerek yayınlamıştı.

Avatarın yüzü, olağanüstü koyu, yapay olarak oluşturulmuş bir cilt tonuna sahip ve Riya'nın vücuduna yerleştirilmişti. Riya'nın hareketleri, kıyafetleri ve arka planı da taklit edilmişti. Riya, BBC'ye yaptığı açıklamada, "Öfkelendim. Elbette videolarım ortalıkta... Bu, onları alıp çalabileceğin ve kendi içeriğinmiş gibi yayınlayabileceğin anlamına gelmez," dedi.

Manipüle edilmiş videolardan biri TikTok'ta 35 milyondan fazla, Instagram'da ise 173 milyon görüntülenmeye ulaştı; bu, Riya'nın orijinal gönderisindeki görüntülenme sayısının yaklaşık 47 katı. Riya'nın içeriğiyle eşleşen üç video cinsel içerikli olmasa da, aynı dijital karakteri kullanan diğer videolar açık saçık kıyafetler veya provokatif eylemler sergiliyor. Hesaptan verilen bağlantılar, ücretli yetişkin içeriklerine yönlendiriyor.

Riya, "Videomu alıp açık saçık içeriklerini tanıtmak için kullanmalarından mı, yoksa insanların buna gerçekten inanmasından mı daha çok endişe duyuyorum, emin değilim," diyor. Kullanıcıların içeriğin gerçek olup olmadığını anlaması giderek zorlaşıyor ve "insanlar bu AI modellerine kanmaya devam ediyor," diye ekliyor.

Birçok izleyici, gerçekçi olmayan özelliklerine rağmen avatarları gerçek olarak algılıyor. Hesapların bazıları, gönderilerinde veya Instagram hikayelerinde AI kullandıklarını reddediyor; buna Riya'nın içeriğini çalan hesap da dahil. Riya, hesabı her iki platforma da defalarca şikayet etti ancak içerik kaldırılmadı. TikTok, BBC'nin müdahalesinin ardından hesabı kapattı.

yapay zeka danışmanlık ve çözüm hizmetleri ihtiyaçlarınız için [yapay zeka firması](https://yapayzekafirmasi.com) doğru adres.