Dewan Pengawas Perintahkan Meta Hapus Video Deepfake dari Facebook

Dewan Pengawas independen (Oversight Board) secara resmi memerintahkan Meta Platforms Inc. untuk segera menurunkan sejumlah video hasil manipulasi kecerdasan buatan (deepfake) dari platform Facebook. Keputusan tegas ini diambil menyusul kritik keras terhadap lambannya sistem moderasi dan lemahnya perlindungan platform terhadap penyebaran konten sintetis berbahaya.

Langkah ini menyoroti kekhawatiran global yang semakin meningkat mengenai bahaya manipulasi digital berbasis AI generatif yang menyasar tokoh publik maupun warga biasa. Dewan Pengawas menilai kebijakan Meta saat ini masih belum memadai dalam mengantisipasi ancaman hoaks yang mampu merusak reputasi individu secara instan.

Kronologi Pelanggaran Konten dan Temuan Investigasi

Kasus ini mencuat setelah dua konten deepfake spesifik dilaporkan namun sempat dibiarkan tetap tayang oleh sistem moderasi otomatis maupun peninjau manual Facebook. Dewan Pengawas kemudian mengambil alih kasus ini untuk melakukan peninjauan mendalam atas dampak bahaya yang ditimbulkan:

1. Penyebaran Hoaks Tokoh Politik Skotlandia: Sebuah video rekayasa AI menampilkan seorang anggota dewan dari Partai Buruh di Skotlandia yang seolah-olah melontarkan pernyataan provokatif dan bermuatan kebencian terhadap para pengungsi. Konten ini beredar luas dan memicu ketegangan publik sebelum akhirnya dipersoalkan.
2. Manipulasi Sosok Relawan Muslim: Video kedua merekayasa citra seorang relawan kampanye perempuan Muslim. Dalam video palsu tersebut, ia ditampilkan secara keliru tengah memberikan saran kesehatan yang menyesatkan sembari melakukan gerakan aneh dan mengonsumsi makanan tidak sehat.
3. Kegagalan Deteksi Awal: Kendati kedua video tersebut dilaporkan oleh pengguna karena memuat misinformasi berbahaya dan fitnah visual, sistem Meta awalnya menolak untuk menghapus unggahan tersebut dengan alasan tidak melanggar aturan standar komunitas yang ada.

"Membiarkan video manipulasi AI yang menyerang integritas individu tetap beredar di platform adalah bentuk kegagalan sistem perlindungan. Meta harus memperketat perlindungan dan bertindak lebih cepat terhadap ancaman media sintetis," tegas Dewan Pengawas dalam pernyataan resminya.

Desakan Reformasi Kebijakan dan Perlindungan AI

Menanggapi insiden tersebut, Dewan Pengawas mendesak Meta untuk merombak total pendekatan moderasi terhadap konten hasil rekayasa AI. Kebijakan saat ini dinilai terlalu sempit karena hanya berfokus pada video yang dibuat menggunakan AI tertentu, bukan pada tingkat bahaya atau potensi kerugian nyata yang ditimbulkan oleh konten manipulatif tersebut.

• Pembaruan Algoritma Deteksi: Meta diminta memperbarui sistem deteksi otomatis agar lebih peka terhadap konten manipulasi audiovisual berisiko tinggi.
• Pemberian Label Transparan: Platform diwajibkan memberikan label peringatan yang jelas dan mencolok pada setiap media yang diidentifikasi sebagai hasil rekayasa AI.
• Mekanisme Banding Cepat: Menyediakan jalur pelaporan prioritas bagi korban pencemaran nama baik berbasis deepfake guna meminimalisasi penyebaran viral.

Keputusan ini menjadi preseden penting bagi industri teknologi global, mengingat perkembangan teknologi kecerdasan buatan generatif kini semakin canggih dan mudah diakses oleh publik luas. Meta kini memiliki tenggat waktu untuk merespons rekomendasi kebijakan tersebut secara terbuka serta mengimplementasikan langkah mitigasi yang lebih ketat.