OpenAI Terapkan Watermark Tersembunyi pada Teks ChatGPT

Perusahaan pengembang kecerdasan buatan asal Amerika Serikat, OpenAI, secara resmi mengumumkan penerapan tanda air atau watermark tersembunyi pada seluruh teks yang dihasilkan oleh chatbot ChatGPT hingga layanan Codex. Kebijakan tersebut disahkan sebagai langkah perusahaan dalam memastikan setiap keluaran sistem AI generatif dapat dilacak dan diidentifikasi secara otomatis.

Langkah korporasi ini menindaklanjuti ketentuan Undang-Undang Kecerdasan Buatan Uni Eropa atau EU AI Act yang mewajibkan transparansi atas konten produksi mesin. Teknologi pelacakan yang dikembangkan OpenAI untuk keperluan tersebut diberi nama textGrain, sebuah sistem yang bekerja dengan menyematkan sinyal statistik tak terlihat ke dalam pola pemilihan kata yang digunakan oleh model bahasa perusahaan.

Berbeda dengan watermark pada gambar yang kasatmata dan dapat dilihat langsung oleh mata manusia, tanda air versi teks ini beroperasi di balik layar. Alat detektor khusus nantinya membaca pola tersebut untuk menilai apakah sebuah tulisan merupakan hasil campur tangan sistem OpenAI atau bukan.

Penerapan Bertahap di Uni Eropa dan API Global

Berdasarkan keterangan resmi perusahaan, OpenAI menerapkan pendekatan bertahap dalam kebijakan ini. Dalam beberapa pekan ke depan, watermark tersembunyi tersebut akan aktif secara otomatis atau default bagi seluruh pengguna ChatGPT dan Codex khusus di wilayah Uni Eropa.

Sementara itu, bagi pelanggan API global, yakni para pengembang yang menyematkan sistem OpenAI ke dalam aplikasi buatan mereka, fitur ini telah tersedia sebagai opsi opt-in atau pilihan aktif. Artinya, pengembang harus secara sadar mengaktifkan fitur tersebut apabila ingin menggunakannya.

Kebijakan ini ditetapkan sebagai respons atas meningkatnya kebutuhan tata kelola konten digital di kawasan dengan regulasi AI paling ketat di dunia tersebut. Uni Eropa melalui EU AI Act menetapkan kewajiban bahwa teks yang dihasilkan dari AI generatif harus dapat diidentifikasi secara otomatis oleh sistem pemindaian.

OpenAI Akui Teknologi Masih Memiliki Keterbatasan

Meski terdengar canggih, OpenAI secara terbuka mengakui bahwa teknologi ini masih jauh dari kata sempurna. Perusahaan menyatakan bahwa watermark teks terbukti sangat mudah dilemahkan dalam berbagai kondisi.

"Watermarking teks dan deteksinya masih merupakan teknologi tahap awal dengan keterbatasan yang signifikan, dan pandangan mengenai manfaat serta penggunaannya secara bertanggung jawab masih terus berkembang," demikian pernyataan resmi OpenAI.

Dari hasil evaluasi internal perusahaan, terdapat sejumlah kondisi di mana detektor gagal mengenali teks buatan AI. Pertama, teks pendek dan kaku. Tulisan dengan panjang di bawah 200 token atau teks yang tidak memiliki banyak variasi kata, seperti jawaban soal matematika, sangat sulit dideteksi oleh sistem.

Kedua, proses penyuntingan ulang oleh manusia. Apabila pengguna mengubah, memparafrase, atau menerjemahkan keluaran AI ke bahasa lain, sinyal statistik yang tertanam dapat hilang dan membuat deteksi menjadi tidak akurat.

Ketiga, pencampuran dengan teks non-OpenAI. Konten yang dihasilkan sistem pesaing atau tulisan manusia yang digabungkan dengan keluaran OpenAI berpotensi mengaburkan pola yang seharusnya terbaca oleh detektor.

Implikasi bagi Ekosistem Konten Digital

Kebijakan ini dinilai memiliki implikasi luas terhadap ekosistem konten digital global, termasuk di Indonesia. Redaksi media, institusi pendidikan, dan platform penerbitan kini menghadapi tantangan baru dalam memverifikasi keaslian tulisan yang diterima dari pihak eksternal.

Namun, sejumlah pengamat teknologi menegaskan bahwa keandalan alat deteksi tetap menjadi persoalan utama. Selama akurasi sistem belum mencapai tingkat yang memadai, risiko kesalahan identifikasi terhadap karya tulis manusia masih tetap terbuka.

OpenAI menyatakan akan terus menyempurnakan teknologi textGrain seiring berkembangnya regulasi di berbagai yurisdiksi. Perusahaan juga menegaskan komitmennya untuk menyeimbangkan antara kewajiban transparansi dan kenyamanan pengguna dalam memanfaatkan layanan AI generatif.

Dengan penetapan kebijakan ini, OpenAI menjadi salah satu pelopor penerapan pelabelan teks AI berskala besar. Keputusan tersebut diperkirakan akan mendorong perusahaan pesaing untuk menyusun langkah serupa dalam waktu dekat, seiring menguatnya tekanan regulasi di kawasan Eropa dan Amerika Serikat.