OpenAI Terapkan Watermark Tersembunyi di ChatGPT

JAKARTA — Perusahaan pengembang kecerdasan buatan asal Amerika Serikat, OpenAI, secara resmi mengumumkan penerapan tanda air atau watermark tersembunyi pada seluruh teks yang dihasilkan oleh chatbot ChatGPT beserta sistem Codex. Kebijakan tersebut ditetapkan sebagai langkah strategis untuk memastikan setiap tulisan buatan mesin dapat dilacak dan diidentifikasi secara otomatis oleh sistem pemindaian khusus.

Langkah ini diambil OpenAI sebagai bentuk kepatuhan terhadap Undang-Undang Kecerdasan Buatan Uni Eropa atau EU AI Act yang mewajibkan setiap konten hasil generasi kecerdasan buatan dapat dikenali melalui mekanisme deteksi formal. Teknologi pelacakan yang dikembangkan perusahaan tersebut diberi nama textGrain, sebuah sistem yang bekerja dengan menambahkan sinyal statistik tak terlihat ke dalam pola pemilihan kata pada model bahasa yang digunakan.

Mekanisme textGrain berbeda secara fundamental dengan watermark konvensional yang selama ini melekat pada gambar atau foto. Jika penanda visual umumnya kasatmata, penanda teks ini beroperasi sepenuhnya di balik layar sehingga pengguna tidak dapat melihatnya secara langsung. Sistem ini menyisipkan pola tersembunyi pada struktur linguistik, yang kemudian dapat dibaca oleh alat detektor khusus untuk menilai apakah sebuah tulisan merupakan hasil campur tangan sistem OpenAI atau bukan.

Penerapan Bertahap di Uni Eropa dan Global

OpenAI menerapkan pendekatan bertahap dalam mengaktifkan fitur ini. Dalam beberapa minggu ke depan, watermark tersembunyi tersebut akan aktif secara otomatis atau default bagi seluruh pengguna ChatGPT dan Codex yang berada di wilayah Uni Eropa. Kebijakan serupa belum diberlakukan secara menyeluruh di yurisdiksi lain, sejalan dengan ketentuan regulasi setempat yang belum mengamanatkan kewajiban serupa.

Sementara itu, bagi pelanggan API global, yaitu para pengembang yang menyematkan sistem OpenAI ke dalam aplikasi buatan mereka, fitur ini telah tersedia sebagai opsi opt-in atau pilihan aktif. Artinya, pengembang dapat memilih untuk mengaktifkan pelacakan tersebut sesuai kebutuhan operasional dan kepatuhan masing-masing.

Kebijakan ini menegaskan posisi OpenAI yang berupaya menyeimbangkan antara inovasi teknologi dan tuntutan transparansi yang semakin menguat di berbagai negara. Regulator di sejumlah yurisdiksi memang terus mendorong adanya standar identifikasi konten kecerdasan buatan sebagai bentuk perlindungan terhadap publik dari disinformasi dan manipulasi informasi.

"Watermarking teks dan deteksinya masih merupakan teknologi tahap awal dengan keterbatasan yang signifikan, dan pandangan mengenai manfaat serta penggunaannya secara bertanggung jawab masih terus berkembang," tulis OpenAI dalam keterangan resminya.

Keterbatasan Deteksi dan Celah Kelemahan

Meski terdengar canggih, OpenAI secara terbuka mengakui bahwa teknologi ini masih jauh dari kata sempurna. Berdasarkan hasil evaluasi internal perusahaan, watermark teks terbukti sangat mudah dilemahkan atau bahkan gagal dikenali pada kondisi tertentu.

Pertama, detektor sulit mengidentifikasi teks berukuran pendek dan bersifat kaku. Teks dengan panjang di bawah 200 token atau yang tidak memiliki banyak variasi kata, seperti jawaban atas soal matematika, tercatat sangat sulit terdeteksi oleh sistem textGrain. Pola pemilihan kata yang monoton membuat sinyal statistik yang disisipkan tidak cukup kuat untuk dibaca kembali.

Kedua, modifikasi redaksional sederhana berpotensi memutus rantai pelacakan. Upaya penyuntingan, parafrase, penerjemahan, maupun penambahan kalimat baru pada teks keluaran dapat melemahkan pola statistik yang sebelumnya disematkan sistem. Kondisi ini menjadi tantangan tersendiri bagi efektivitas penerapan watermark secara luas.

OpenAI menyatakan bahwa pengembangan teknologi ini masih berlangsung dan akan terus disempurnakan seiring bertambahnya data evaluasi. Perusahaan menekankan pentingnya kolaborasi lintas pemangku kepentingan, termasuk akademisi, regulator, dan komunitas pengembang, untuk merumuskan standar identifikasi konten kecerdasan buatan yang bertanggung jawab.

Implikasi bagi Ekosistem Digital Indonesia

Kebijakan tersebut berpotensi memberikan dampak tidak langsung bagi pasar digital Indonesia, mengingat banyak pengembang lokal yang memanfaatkan API OpenAI untuk membangun layanan berbasis kecerdasan buatan. Meski kewajiban watermark baru berlaku di Uni Eropa, standar ini dipandang dapat menjadi rujukan global dalam tata kelola konten digital.

Sejumlah pengamat menilai bahwa Indonesia perlu menyiapkan kerangka regulasi serupa agar ekosistem kecerdasan buatan nasional tetap selaras dengan perkembangan standar internasional. Diskusi mengenai transparansi konten mesin diperkirakan akan semakin mengemuka dalam forum kebijakan teknologi dalam negeri dalam waktu dekat.

Dengan langkah ini, OpenAI menegaskan komitmennya untuk menindaklanjuti tuntutan transparansi yang diamanatkan regulasi, sekaligus mengakui bahwa perjalanan menuju pelacakan konten kecerdasan buatan yang andal masih memerlukan penyempurnaan berkelanjutan.