Anthropic Gagalkan Upaya Peneliti Gunakan AI Claude untuk Senjata Biologis

SAN FRANCISCO — Perusahaan pengembang kecerdasan buatan (AI) terkemuka, Anthropic, mengumumkan telah menggagalkan serangkaian upaya sejumlah peneliti yang mencoba mengeksploitasi model bahasa AI Claude untuk pengembangan senjata biologis berbahaya sepanjang tahun ini.

Laporan resmi perusahaan menyoroti kerentanan serius di persimpangan antara biologi mutakhir dan teknologi AI, di mana riset biologis berbahaya sering kali memiliki kemiripan struktur dengan penelitian ilmiah yang sah.

Kronologi Deteksi dan Upaya Pengelabuan Sistem Keamanan

Anthropic membeberkan setidaknya lima kasus spesifik ketika para aktor berupaya mengelabui protokol keamanan (*safety guardrails*) yang ditanamkan pada Claude. Para pelaku menggunakan berbagai teknik rekayasa perintah (*prompt engineering*) tingkat lanjut untuk menyamarkan tujuan riset mereka.

1. Deteksi Pola Anomali: Sistem pemantauan internal mendeteksi aktivitas mencurigakan berupa kueri bertingkat yang menanyakan sintesis patogen berbahaya dan toksin berisiko tinggi.
2. Modus Pengaburan Maksud (*Obfuscation*): Pelaku mencoba memecah instruksi berbahaya menjadi potongan-potongan kode dan konsep biologi sintetis yang tampak seperti riset medis atau biokimia umum untuk menghindari filter otomatis.
3. Identifikasi Akses Terlarang: Investigasi lanjutan menemukan bahwa sebagian aktivitas tersebut berasal dari negara-negara yang dilarang mengakses layanan Anthropic, termasuk Rusia, China, dan Iran.
4. Pemblokiran dan Pengetatan Algoritma: Tim keamanan Anthropic langsung memutus akses akun terkait dan memperbarui model mitigasi risiko guna menutup celah manipulasi lanjutan.

“Kami berharap dengan membagikan contoh-contoh ini, kami dapat memicu diskusi mendalam di dalam industri AI maupun bersama pemerintah mengenai risiko biologis yang terus berkembang serta cara terbaik untuk menangkalnya,” tegas juru bicara Anthropic dalam laporan resminya.

Tantangan Dilema 'Dual-Use' dalam Riset Biologi

Ancaman dari penyalahgunaan AI generatif di bidang biologi menjadi salah satu kekhawatiran terbesar para pakar keamanan siber dan biosekuriti global. Masalah utama terletak pada konsep dual-use research, yaitu ketika data genomik atau instruksi sintesis protein yang digunakan untuk menciptakan vaksin atau obat-obatan juga dapat disalahgunakan untuk merancang senjata pemusnah massal.

Para ahli biosekuriti mengingatkan beberapa risiko utama yang ditimbulkan jika model AI jatuh ke tangan pihak yang salah:

• Demokratisasi Pengetahuan Berbahaya: AI dapat mempercepat proses desain patogen bagi aktor non-negara atau individu yang tidak memiliki fasilitas laboratorium tingkat tinggi.
• Peningkatan Virulensi Patogen: Model bahasa tingkat lanjut dapat memberikan saran optimasi struktur genetik agar virus atau bakteri lebih resistan terhadap pengobatan medis konvensional.
• Otomatisasi Sintesis Biologis: Integrasi AI dengan alat sintesis DNA otomatis berpotensi memotong rantai verifikasi ilmiah standar.

Melalui publikasi temuan ini, Anthropic mendesak para pelaku industri AI, regulator, dan komunitas riset internasional untuk memperketat standarisasi evaluasi model (*red-teaming*) serta memperkuat pertukaran intelijen ancaman demi mencegah eskalasi bahaya biosekuriti di masa depan.