Dapatkah strategi #AI yang cerdas meyakinkan UE bahwa moderasi konten #Facebook sudah habis?

Pada 17 Februari, saat bertemu dengan pembuat kebijakan Eropa di Brussels, CEO Facebook Mark Zuckerberg (Foto) merilis sebuah buku putih yang menguraikan strateginya untuk menangani konten berbahaya di platform media sosial. Menanggapi keinginan Uni Eropa untuk meningkatkan pengawasan atas sektor teknologi, miliarder membuat kasus bahwa industri harus diatur pada tingkat global, bukan pada tingkat lokal.

Dia juga berpendapat bahwa akuntabilitas perusahaan teknologi untuk konten berbahaya pada platform mereka harus dibatasi — selama mereka memiliki sistem moderasi konten yang efektif. Saran Zuckerberg, bagaimanapun, menerima sambutan yang sangat dingin di Brussels. Bahkan setelah bertemu Zuckerberg, UE berpendapat bahwa proposal moderasi konten baru Facebook gagal di banyak bidang, terutama gagal menggambarkan langkah konkret yang akan diambil platform untuk memerangi konten ilegal online. "Itu tidak cukup. Ini terlalu lambat, terlalu rendah dalam hal tanggung jawab dan regulasi, ”pendapat komisaris strategi data Thierry Breton setelah duduk bersama eksekutif puncak Facebook.

Di mana sistem saat ini Facebook gagal?

Raksasa teknologi memiliki jendela yang cukup sempit untuk meyakinkan para pembuat kebijakan Eropa bahwa upaya mereka sendiri untuk mengekang konten yang bermasalah sudah cukup. Undang-undang Layanan Digital Komisi, revisi yang telah lama ditunggu dari arahan e-commerce UE yang berusia 20 tahun, dijadwalkan akan diluncurkan akhir tahun ini. Seperti yang dicatat oleh Breton, “jika kita melihat bahwa [proses Facebook sendiri untuk memoderasi konten] bukan yang kita butuhkan terkait standar kita sendiri, kita harus mengatur dan memasukkannya ke dalam [Undang-Undang Layanan Digital]”.

Facebook bertekad untuk menyelesaikan masalah moderasi konten itu sendiri — dengan menggunakan kemajuan dalam Artificial Intelligence (AI) dan pembelajaran mesin untuk meningkatkan sistemnya saat ini. Tugas sulit mengidentifikasi dan menghapus materi yang bermasalah saat ini diserahkan kepada para profesional pihak ketiga yang menggunakan kebijaksanaan mereka untuk menentukan mengapa suatu gambar atau video tidak dapat diterima.

Ketergantungan pada pengawasan manusia semacam itu bermasalah karena sifat mengerikan dari beberapa moderator konten yang dipaksa untuk diselidiki — fakta bahwa karyawan yang memoderasi konten untuk Facebook di Lisbon, Dublin dan Warsawa telah membuktikan bahwa pekerjaan mereka telah memberi mereka PTSD pasti akan menaikkan bendera merah di lembaga-lembaga Eropa. Selain itu, kemanjuran moderasi manusia dipertanyakan setelah Facebook berulang kali gagal menghapus konten berbahaya seperti streaming langsung serangan masjid Christchurch tahun 2019.

AI dapat menghubungkan beberapa titik buta Facebook

iklan

Kecerdasan buatan memiliki potensi untuk secara signifikan mengurangi ketergantungan pada moderasi manusia. Algoritma yang dilatih oleh pembelajaran mesin dapat mendukung moderator dengan tidak hanya mengurangi paparan mereka terhadap konten online yang berbahaya tetapi juga dengan meningkatkan produktivitas dan akurasi mereka. Facebook mengklaim telah melihat hasil yang menjanjikan dalam eksperimennya dengan AI sejauh ini — menurut platform tersebut, selama paruh kedua tahun 2019 platform tersebut berhasil menandai 99.8% konten grafis dan 99.5% ketelanjangan dan eksploitasi anak bahkan sebelum pengguna memberi sinyal kepada mereka. . Tentu saja, teknologinya masih membutuhkan finetuning — algoritma konten moderasi berdasarkan AI masih sangat berjuang untuk mengenali nuansa kebencian, misalnya — masalah yang secara khusus diperhatikan oleh Uni Eropa.

Terlebih lagi, Uni Eropa waspada membiarkan Facebook dengan bebas menggunakan teknologi sensitif seperti AI. Kekhawatiran ini terutama berasal dari rekam jejak buruk Facebook dalam memenuhi standar transparansi Eropa — meningkatkan momok bahwa perusahaan mungkin mengembangkan 'algoritma kotak hitam' yang mencegah audit pihak ketiga atau pemerintah pada platform tersebut.

Di jantung kebijakan digital — yang dirilis minggu lalu oleh kepala persaingan dan digital digital UE, Margrethe Vestager - mengatur bagaimana perusahaan menggunakan kecerdasan buatan. Sementara UE ingin pemerintah memantau aspek-aspek yang lebih berisiko, seperti penggunaan teknologi pengenalan wajah, banyak aplikasi di halaman belakang Eropa sendiri yang menunjukkan bagaimana itu dapat digunakan dengan aman dan efektif. Bisakah Facebook mengambil petunjuk dari mereka?

Aplikasi media sosial generasi berikutnya membuat tanda mereka dengan menggunakan AI secara inovatif

Satu aplikasi Eropa khususnya telah memanfaatkan kecerdasan buatan secara kreatif untuk memberi para penggunanya pengalaman yang lebih aman dan menyenangkan. Yubo, aplikasi streaming langsung untuk usia 13-25, mengandalkan keseimbangan antara algoritma yang kompleks dan mendidik anak muda tentang bahaya online untuk menjaga 20 juta penggunanya tetap aman di platform. Algoritme yang dilatih dengan cermat mendeteksi konten yang bermasalah seperti ketelanjangan atau seseorang yang hanya mengenakan pakaian dalam di live stream — yang terjadi ketika sistem intervensi real-time Yubo masuk, mengirimkan pesan peringatan kepada pengguna yang menjelaskan mengapa perilaku seperti itu tidak menyenangkan. Jika pengguna tidak memperbaiki perilaku mereka, streaming dapat dimatikan dari jarak jauh.

Untuk memastikan bahwa aplikasi disediakan untuk remaja dan dewasa muda, sementara itu, Yubo telah bermitra dengan penyedia identitas digital populer yang berbasis di Inggris, Yoti, yang mencocokkan dokumen identifikasi yang diunggah dengan selfie pengguna menggunakan perangkat lunak pengenal wajah. Teknologi Yoti — yang juga sedang digunakan di supermarket untuk memastikan bahwa anak di bawah 18 tahun tidak membeli barang terbatas seperti rokok atau alkohol — dapat digunakan oleh aplikasi media sosial lainnya untuk “membatasi usia” komunitas mereka atau untuk memastikan pengguna siapa yang mereka katakan.

Upaya Yubo untuk menggigit konten online yang bermasalah sejak awal - dengan menggabungkan moderasi berbantuan komputer dengan kepekaan pengguna muda tentang hal-hal yang boleh dan tidak boleh dilakukan dalam protokol online yang baik - telah membuat percikan di sektor teknologi. Mereka juga harus memberikan contoh yang menggembirakan bagi raksasa teknologi seperti Facebook dan regulator seperti Uni Eropa bahwa platform media sosial dapat mencapai keseimbangan yang sehat antara terlalu bergantung pada AI atau pengawasan manusia.

Kecerdasan buatan bukanlah obat untuk semua tantangan yang dihadapi platform media sosial. Ketika Facebook berupaya meyakinkan UE bahwa ia dapat memoderasi kontennya sendiri, bagaimanapun, akan terlayani dengan baik dengan mengambil isyarat dari aplikasi generasi baru yang telah berhasil mengembangkan strategi holistik, menggabungkan AI, untuk menjaga keamanan penggunanya. .

Bagikan artikel ini: