hendra-wijaya
Raksasa teknologi Meta kembali menghadapi sorotan tajam setelah laporan investigasi terbaru dari Tech Transparency Project (TTP) mengungkap adanya ratusan iklan berbayar di Facebook dan Instagram yang mempromosikan aplikasi pengubah foto menjadi konten pornografi berbasis kecerdasan buatan (AI). Parahnya, sejumlah materi promosi tersebut memanfaatkan foto asli anak-anak dan remaja di bawah umur yang dimanipulasi secara digital.
Investigasi independen tersebut mencatat setidaknya 332 iklan yang memuat materi pelecehan dan eksploitasi seksual anak (CSAM) berbasis AI berhasil lolos sistem kurasi Meta sepanjang tahun ini. Sebagian besar iklan tersebut mempromosikan aplikasi nudify—perangkat lunak yang dirancang untuk merekayasa pakaian korban secara digital hingga tampak telanjang atau melakukan aktivitas seksual vulgar.
Manipulasi Foto Nyata Menjadi Konten Asusila
Temuan TTP memperlihatkan bahwa pelaku periklanan tidak sekadar menggunakan karakter fiktif hasil kecerdasan buatan, melainkan mencocokkan materi iklan dengan foto-foto nyata anak yang beredar di internet. Salah satu materi iklan menampilkan foto resmi seorang anggota keluarga kerajaan muda di Eropa yang dianimasikan menjadi video eksplisit. Iklan lainnya memanipulasi foto seorang influencer Instagram berusia 14 tahun yang sedang mengenakan seragam olahraga menjadi tayangan asusila.
Selain itu, ditemukan pula iklan yang merekayasa foto stok anak perempuan berpakaian olahraga merah muda menjadi video bermuatan pelecehan oleh pria dewasa. Mayoritas aplikasi yang dipromosikan melalui platform milik Mark Zuckerberg tersebut diketahui berasal dari pengembang di Tiongkok dengan slogan yang terang-terangan menargetkan pengguna pria.
“Temuan ini membuktikan celah besar dalam penegakan kebijakan Meta, di mana sistem iklan berbayar mereka justru memfasilitasi distribusi materi yang melanggar hukum perlindungan anak secara terang-terangan,” tulis TTP dalam laporan resminya.
Pelanggaran Hukum dan Bahaya AI-CSAM
Departemen Kehakiman Amerika Serikat (DOJ) sebelumnya telah menegaskan bahwa konten CSAM yang dihasilkan atau dimanipulasi oleh kecerdasan buatan (AI-CSAM) memiliki konsekuensi hukum yang sama beratnya dengan materi eksploitasi riil. Dampak psikologis dan sosial terhadap korban dinilai setara karena melibatkan identitas visual anak di ruang publik.
Berikut adalah poin-poin utama dari temuan investigasi tersebut:
- 332 iklan terlarang berhasil lolos saringan otomatis Meta di Facebook dan Instagram.
- Eksploitasi identitas nyata melibatkan figur publik remaja, foto influencer, hingga foto stok anak-anak.
- Aplikasi nudify dipromosikan secara terbuka untuk merekayasa foto pakaian menjadi pornografi tanpa persetujuan.
- Respons lambat dari pihak Meta yang membutuhkan waktu berhari-hari untuk meninjau dan menghapus iklan bermasalah setelah dilaporkan.
Kelambanan Sistem Moderasi Meta Menuai Kecaman
Kritik keras mengarah pada sistem moderasi Meta yang dinilai sangat lamban merespons pelanggaran fatal ini. Alih-alih terdeteksi secara otomatis oleh algoritma keselamatan anak, iklan-iklan tersebut justru tetap tayang dan menghasilkan pendapatan bagi perusahaan selama berhari-hari sebelum akhirnya diturunkan.
Kelalaian ini memperkuat desakan dari berbagai kelompok advokasi anak dan regulator global agar platform media sosial memberlakukan audit periklanan yang jauh lebih ketat, khususnya terhadap integrasi teknologi kecerdasan buatan generatif yang rentan disalahgunakan untuk kejahatan digital.
Comments (0)