Teknoloji Devlerinin Yapay Zeka Destekli İçerik Düzenlemesi Başarısızlıkla Sonuçlandı
Facebook, Milyonlarca Kullanıcıyı Sınırlıyor: Yapay Zeka Kullanımı ve Şeffaflık Sorunları Ortaya Çıktı
Son yapılan bir araştırmaya göre, Facebook’un belki de yarım milyon Macar kullanıcıyı zaten sınırlamış olabileceği ortaya çıktı. Online platformun içerik ve hesap moderasyon kuralları ise neredeyse belirsiz olarak değerlendiriliyor. Ulusal Medya ve İletişim Kurumu (NMHH) tarafından yapılan son araştırma, bu konuda önemli bilgiler ortaya koydu.
Araştırma, Facebook ve YouTube’un uygulamalarını ve politikalarını inceleyerek büyük platform sağlayıcılarının kullanıcıları nasıl sınırladığını analiz etti. Çevrimiçi platformların milyonlarca yaptırım kararını genellikle gerçek insanlar tarafından gözden geçirilmeden AI (yapay zeka) kullanarak aldığı ortaya çıktı. Avrupa Birliği’nin Dijital Hizmetler Yasası (DSA) şimdi tüm çevrimiçi platformların moderasyon kararlarını rapor etmelerini zorunlu kılıyor. Bu da her gün yüz binlerce sınırlayıcı karar alındığını ve milyonlarca kararın genellikle yapay zeka (AI) yardımıyla alındığını ortaya çıkardı.
Bu kararlar genellikle kullanıcılara açıklanmıyor veya gerekçelendirilmiyor, böylece kullanıcılar sınırlama algoritmalarının nasıl çalıştığı konusunda bilgi sahibi olmuyorlar. Platform sağlayıcıların eylemlerini her zaman sorgulama hakları olsa da, şikayetlerinin genellikle AI tarafından ele alındığı belirtiliyor. Anlamlı şikayet işleme ve sınırlı içeriğin veya hesapların geri yükleme işlemi gittikçe nadir hale geliyor.
Platform politikalarının netliğinin eksikliği kullanıcıların bu politikaları anlamalarını zorlaştırıyor: bunlar tek bir, şeffaf belgede belirtilmemiş ve genellikle küçük alt alanlardaki politikalarını mantıksız bir şekilde ihlal gruplandırmaları yapıyor. Ayrıca sıklıkla çok geniş ifade biçimlerine rastlanıyor.
Örneğin, YouTube, kullanıcıların platforma zarar verebilecek içerikleri sadece açıkça yasa dışı veya kurallara aykırı olmamasının yanı sıra “zarar verici” olabilecek her türlü içeriği kaldırabileceğini şartlarında belirtiyor. Hizmet sağlayıcılar genellikle spam olarak tanımlanan içerikleri veya sahte olduğu düşünülen hesapları denetlerken, ifade özgürlüğü üzerinde önemli bir etkiye sahip olan iki kategorideki yüz binlerce gönderide kısıtlayıcı kararlar alıyorlar (nefret söylemi ve yanlış bilgi).
Araştırma ayrıca ilgili platform sağlayıcıların Macar kullanıcılara karşı uyguladığı kısıtlama uygulamalarını da inceledi ve yasaklar ile gölge yasaklarını ayrı ayrı inceledi. İlk durumda, hizmet sağlayıcı moderasyon bildirimi gönderiyor. İkincisinde ise hizmet sağlayıcı kullanıcının haberi olmadan kısıtlamalar uyguluyor, örneğin bir gönderiyi diğer kullanıcıların haber akışında göstermeyerek.
Dev platformlar, moderasyon pratiklerine ilişkin ülke bazında veri sağlamıyorlar, ancak Ulusal Kamu Hizmet Üniversitesi tarafından yapılan temsilci anketine göre 2024 yılında (toplam nüfus içinde yaklaşık yarım milyon kişi) Macar nüfusunun neredeyse %15’i içerik silme veya sınırlama yaşadı, hatta bir hesap yasağı yaşadı. Bu, önceki yıllara göre beş puanlık bir artışa denk geliyor.
Etkilenen kullanıcıların yarısı zaten birden fazla sınırlamaya maruz kalmış, dörtte biri hesaplarının hizmet sağlayıcı tarafından askıya alındığını bildirmiş. Üçte biri kesin bir şekilde bir kısıtlamanın kaldırılmasını talep etmiş, ancak 2024 yılında sadece kısıtlı içeriğin onda biri platform tarafından geri yüklendi.
2020 yılında yayınlanan bir ankette, hizmet sağlayıcıların askıya alınan içeriğin yaklaşık beşte birini geri yüklediği oranı çok daha yüksekti, bu durumun büyük ölçüde platform sağlayıcıların şikayetleri ele alma konusunda artık giderek daha fazla yapay zekaya dayanmalarıyla ilgili olabileceği belirtilmiştir.
