Meta Dituding Biarkan Seruan Kekerasan terhadap Muslim Beredar

Keputusan sebuah platform teknologi raksasa tentang konten yang boleh dan tidak boleh tampil bukan sekadar urusan internal perusahaan. Ia menentukan siapa yang merasa aman berada di ruang digital, dan siapa yang justru terancam olehnya. Ketika pengelola platform memilih membiarkan unggahan bernada hasutan kekerasan terhadap kelompok tertentu tetap beredar, pertanyaan yang muncul bukan lagi soal algoritma semata, melainkan soal arah ekosistem digital yang sedang kita bangun bersama. Inilah mengapa persoalan ini penting: apa yang terjadi di layar ponsel kita hari ini bisa berdampak pada keselamatan nyata di jalanan besok.

Apa yang Terjadi di Balik Layar Meta?

Meta, perusahaan induk di balik Facebook, Instagram, dan WhatsApp, dikabarkan menolak permintaan penghapusan unggahan yang berisi seruan kekerasan terhadap Muslim. Padahal, konten semacam itu sejatinya bertabrakan langsung dengan kebijakan komunitas yang dipublikasikan platform tersebut. Kebijakan itu secara eksplisit menyatakan bahwa ujaran yang menghasut kekerasan terhadap seseorang atau kelompok berdasarkan identitas agama termasuk pelanggaran berat yang seharusnya berujung pada penghapusan konten.

Ibarat seperti polisi lalu lintas yang melihat pengendara menerobos lampu merah, lalu memilih berpaling dan mencatatnya sebagai kasus abu-abu, keputusan ini membuat banyak pihak mempertanyakan konsistensi penegakan aturan. Yang lebih mengkhawatirkan, penolakan itu disebut terjadi meski sudah ada laporan dan permintaan resmi dari pengguna. Artinya, sistem moderasi yang berjalan justru menempatkan kepentingan lain di atas keselamatan kelompok rentan.

Mengapa Moderasi Konten Begitu Rumit?

Untuk memahami kenapa platform sebesar Meta bisa gagal menangani kasus seperti ini, kita perlu melihat skala masalahnya. Setiap hari, pengguna Facebook, Instagram, dan WhatsApp mengunggah konten dalam jumlah yang mustahil ditinjau manusia satu per satu. Ibarat sebuah kota dengan miliaran penduduk yang setiap detiknya mengucapkan kalimat baru, dan hanya segelintir petugas yang bisa mendengarkan.

Di sinilah peran AI (Artificial Intelligence/kecerdasan buatan) dan machine learning, cabang kecerdasan buatan yang memungkinkan mesin belajar dari data, menjadi penentu. Algoritma moderasi otomatis dilatih untuk mengenali pola ujaran kebencian, tetapi ia bekerja berdasarkan konteks. Ungkapan bernada sarkastis, bahasa daerah, atau seruan yang dibungkus metafora sering lolos dari deteksi karena mesin kesulitan menangkap nuansa. Hasilnya, konten berbahaya yang seharusnya diblokir justru dibiarkan mengambang, sementara pengguna yang melaporkannya tidak mendapat jawaban memuaskan.

Kerumitan ini bukan alasan, melainkan cermin atas keterbatasan pendekatan yang dipilih. Perusahaan bisa menambah tenaga peninjau manusia di wilayah dengan risiko tinggi, atau melatih ulang model moderasinya dengan data yang lebih beragam. Namun, keputusan itu bergantung pada prioritas: apakah platform menempatkan keselamatan pengguna sebagai hal pertama, atau membiarkan efisiensi biaya menang.

Efek Berantai bagi Pengguna dan Masyarakat

Ketika seruan kekerasan dibiarkan tampil, dampaknya tidak berhenti di dunia maya. Bagi komunitas Muslim yang menjadi sasaran, perasaan aman di ruang publik digital ikut terkikis. Penelitian tentang moderasi konten menunjukkan bahwa paparan ujaran kebencian yang terus-menerus dapat meningkatkan ketegangan sosial, memperdalam polarisasi, dan dalam kasus ekstrem memicu aksi nyata di lapangan.

Bagi pengguna biasa, kasus ini juga menimbulkan pertanyaan besar tentang kepercayaan. Jika sebuah platform dengan sumber daya raksasa tidak mampu, atau tidak mau, menegakkan aturannya sendiri secara konsisten, bagaimana pengguna bisa percaya bahwa laporan mereka akan ditangani dengan serius? Kepercayaan adalah mata uang utama platform digital; begitu ia terkikis, pengguna akan mencari ruang lain yang dianggap lebih aman.

Ini juga menjadi pelajaran bagi ekosistem digital Indonesia, salah satu pasar pengguna media sosial terbesar di dunia. Peristiwa seperti ini mengingatkan bahwa kebijakan platform global sering kali tidak otomatis sejalan dengan kebutuhan keamanan komunitas lokal, sehingga kolaborasi antara regulator, akademisi, dan komunitas sipil menjadi semakin penting.

Jalan Keluar: Transparansi dan Pengawasan

Langkah perbaikan sebenarnya sudah tersedia, tinggal apakah dijalankan. Meta memiliki dewan pengawas konten yang dibentuk untuk meninjau keputusan moderasi yang kontroversial, namun efektivitasnya sangat bergantung pada transparansi data dan keberanian mengambil keputusan yang tidak populer. Publik berhak mengetahui berapa banyak laporan tentang konten kekerasan yang diabaikan, dan atas dasar apa keputusan itu diambil.

Audit independen oleh pihak ketiga, publikasi laporan penegakan aturan secara berkala, serta pelatihan ulang model moderasi dengan data yang lebih kontekstual adalah langkah konkret yang bisa langsung diimplementasikan. Tanpa itu, kita hanya akan berputar pada siklus yang sama: aturan dibuat, aturan dilanggar, dan platform memilih tutup mata dengan alasan kompleksitas.

Pada akhirnya, teknologi hanyalah alat; arah penggunaannya ditentukan oleh nilai yang dianut pembuatnya. Masyarakat, pengguna, dan regulator harus terus menekan agar keselamatan kelompok rentan tidak dikorbankan demi kepentingan lain. Sebab platform sebesar ini tidak hanya memengaruhi percakapan digital, tetapi juga menentukan siapa yang boleh merasa aman di dalamnya.