Akıllı bir #AI stratejisi AB'yi #Facebook içerik denetlemesinin rahatlamaya ikna edebilir mi?

17 Şubat'ta Brüksel'deki Avrupalı ​​politika yapıcılar ile görüşürken, Facebook CEO'su Mark Zuckerberg (Resimde) Sosyal medya platformlarında zararlı içerikle başa çıkma stratejisini özetleyen bir beyaz kitap yayınladı. Avrupa Birliği'nin teknoloji sektörünün denetimini hızlandırma arzusuna cevaben milyarder, endüstrinin yerel değil küresel bir düzeyde düzenlenmesi gerektiğini ortaya koydu.

Ayrıca, teknoloji şirketlerinin platformlarındaki zararlı içerikten sorumlu olmalarının, etkin içerik denetleme sistemlerine sahip oldukları sürece sınırlı olması gerektiğini savundu. Ancak Zuckerberg'in önerileri, Brüksel'de kararlı bir şekilde soğuk bir resepsiyon aldı. Zuckerberg ile görüştükten sonra bile AB, Facebook'un yeni içerik moderasyonu teklifinin birçok cephede yetersiz kaldığını, özellikle de platformun çevrimiçi yasadışı içerikle mücadele etmek için atacağı somut adımların belirlenemediğini belirtti. "Yeterli değil. Bu çok yavaş, sorumluluk ve düzenleme açısından çok düşük ”dedi. Veri stratejisi komiseri Thierry Breton, Facebook'un üst düzey yöneticisine oturduktan sonra.

Facebook'un mevcut sistemi nerede yetersiz?

Teknoloji devleri, Avrupalı ​​politika yapıcıları sorunlu içeriği azaltma çabalarının yeterli olduğuna ikna etmek için oldukça dar bir pencereye sahiptir. AB'nin 20 yıllık e-ticaret yönergesinin uzun süredir beklenen revizyonu olan Komisyon'un Dijital Hizmetler Yasası'nın bu yılın ilerleyen dönemlerinde yayınlanması planlanıyor. Breton'un belirttiği gibi, “[Facebook'un içeriği denetleme sürecinin] kendi standartlarımızla ilgili olarak ihtiyacımız olmadığını görürsek, bunu [Dijital Hizmetler Yasası'na] düzenlemeli ve koymalıyız”.

Facebook, mevcut sistemi güçlendirmek için Yapay Zeka (AI) ve makine öğrenmesindeki ilerlemeleri kullanarak içerik yönetimi sorununu kendisinin çözebileceğine kararlıdır. Sorunlu materyali belirleme ve kaldırma konusundaki dikenli görev, şu anda bir görüntünün veya videonun neden sakıncalı olduğunu belirlemek için kendi takdirlerini kullanan üçüncü taraf profesyoneller için dış kaynak kullanılmaktadır.

Bazı içerik denetleyicilerinin ürkütücü doğası göze çarpmak zorunda kaldığında, bu tür insan gözetimine güvenmek sorunludur - Lizbon, Dublin ve Varşova'da Facebook için içerik yöneten çalışanların çalışmalarının TSSB'yi verdiğini doğruladığı gerçeği Avrupa kurumlarında. Buna ek olarak, Facebook'un Christchurch cami saldırısının 2019 canlı akışı gibi zararlı içeriği tekrar tekrar hızlı bir şekilde kaldıramadığı için, insan ılımlılığının etkinliği sorgulandı.

AI, Facebook'un kör noktalarından bazılarını ekleyebilir

reklâm

Yapay zeka, insan ılımlılığına bu bağımlılığı önemli ölçüde azaltma potansiyeline sahiptir. Makine öğrenimi tarafından eğitilen algoritmalar, yalnızca zararlı çevrimiçi içeriğe maruz kalmalarını azaltmakla kalmayıp aynı zamanda üretkenliklerini ve doğruluklarını artırarak moderatörleri destekleyebilir. Facebook, şimdiye kadar yapay zeka ile yaptığı deneylerde umut verici sonuçlar aldığını iddia ediyor - platforma göre, 2019'un ikinci yarısında platform, kullanıcıların haber vermeden önce bile grafik içeriğin% 99.8'ini ve çıplaklık ve çocuk sömürüsünün% 99.5'ini işaretlemeyi başardı . Tabii ki, teknolojinin hâlâ ince ayarlara ihtiyacı var - yapay zekaya dayalı içerik moderasyon algoritmaları hala özellikle nefret söyleminin nüanslarını tanımakta zorlanıyor - Avrupa Birliği'nin özellikle endişe duyduğu bir konu.

Dahası, Avrupa Birliği, Facebook gibi yapay zeka gibi hassas bir teknolojiyi kullanmakta özgür bir hüküm sürmeye dikkat ediyor. Bu kaygılar öncelikle Facebook'un Avrupa'nın şeffaflık standartlarını karşılamadaki kötü performansından kaynaklanıyor ve şirketin platformda üçüncü taraf veya hükümet denetimlerini önleyen 'kara kutu algoritmaları' geliştirebileceği huzursuzluğunu arttırıyor.

AB'nin dijital çar ve rekabet şefi Margrethe Vestager tarafından geçen hafta yayınlanan dijital politikanın kalbinde şirketlerin yapay zekayı nasıl kullandıkları düzenleniyor. AB hükümetlerin yüz tanıma teknolojisinin kullanımı gibi daha riskli yönlerini izlemesini isterken, Avrupa'nın kendi arka bahçesindeki birçok uygulama, nasıl güvenli ve etkili bir şekilde kullanılabileceğini gösteriyor. Facebook onlardan bir ipucu alabilir mi?

Yeni nesil sosyal medya uygulamaları yapay zekayı yenilikçi kullanarak iz bırakıyor

Özellikle bir Avrupa uygulaması, genç kullanıcılarına daha güvenli ve daha keyifli bir deneyim sunmak için yapay zekayı yaratıcı bir şekilde kullanmıştır. 13-25 yaşları arasında canlı akış uygulaması olan Yubo, karmaşık algoritmalar ile gençleri çevrimiçi zararlar konusunda eğiterek 20 milyon kullanıcısını platformda güvende tutmaya dayanıyor. Dikkatli bir şekilde eğitilmiş bir algoritma, çıplaklık veya yalnızca iç çamaşırında bulunan birisi gibi sorunlu içeriği canlı bir akışta algılar; bu, Yubo'nun gerçek zamanlı müdahale sisteminin devreye girdiği ve kullanıcılara bu tür davranışların neden sakıncalı olduğunu açıklayan bir uyarı mesajı gönderdiği zamandır. Kullanıcı davranışını düzeltemezse akış uzaktan kapatılabilir.

Uygulamanın gençlere ve genç yetişkinlere ayrıldığından emin olmak için, Yubo, yüz tanıma yazılımı kullanarak kullanıcının kimliklerini yükleyen kimlik belgelerini eşleşen popüler İngiltere tabanlı dijital kimlik sağlayıcı Yoti ile ortaklık kurdu. Yoti'nin teknolojisi - 18 yaşından küçüklerin sigara veya alkol gibi kısıtlı ürünler satın almadığından emin olmak için süpermarketlerde de kullanılıyor - diğer sosyal medya uygulamaları tarafından topluluklarını “yaşlandırmak” için veya kullanıcıların kim olduklarını söylediler.

Yubo'nun tomurcuktaki sorunlu çevrimiçi içeriği silme girişimleri - bilgisayar destekli moderasyonu, genç kullanıcıları iyi çevrimiçi protokollerin yapılması ve yapılmaması gerekenler konusunda duyarlı hale getirmekle birleştirerek, teknoloji sektöründe bir sıçrama yaptı. Ayrıca Facebook gibi teknoloji devlerine ve Avrupa Birliği gibi düzenleyicilere sosyal medya platformlarının yapay zeka veya insan gözetimine aşırı bağımlı olma arasında sağlıklı bir denge kurabileceği konusunda cesaret verici bir örnek sunmalıdırlar.

Yapay zeka, sosyal medya platformlarının karşılaştığı zorluklar için bir çare değildir. Facebook, AB'yi kendi içeriğini denetleyebileceğine ikna etmeye çalıştıkça, kullanıcılarını güvende tutmak için AI'yi birleştiren bütünsel bir strateji geliştirmeyi başaran yeni nesil uygulamalardan bir ipucu alarak iyi bir şekilde sunulacaktı. .

Bu makaleyi paylaş: