ANTHROPIC — Peneliti Peringatkan Bahaya Kecerdasan Buatan Yang Tak Terkendali

SAN FRANCISCO — Ancaman kecerdasan buatan (AI) yang tak terkendali kini bukan lagi sekadar skenario fiksi ilmiah, melainkan peringatan nyata dari para ilmuwan yang mengembangkannya. Sejumlah peneliti aktif maupun mantan pakar dari perusahaan AI terkemuka, Anthropic dan OpenAI, menyuarakan kekhawatiran mendalam bahwa teknologi superintelegensi yang sedang dikembangkan secara pesat berpotensi memusnahkan umat manusia di masa depan.

Jacob Coxon, seorang mantan peneliti yang pernah bekerja di Anthropic maupun OpenAI, secara terbuka mengkritik langkah kedua laboratorium Silicon Valley tersebut. Menurut Coxon, persaingan sengit dalam memperebutkan dominasi pasar telah membuat pengembang mengabaikan prinsip keselamatan mendasar. Kedua raksasa teknologi ini dinilai tidak bertindak secara bertanggung jawab ketika mereka berlomba-lomba mencapai level Artificial General Intelligence (AGI) dan superintelegensi tanpa pengawasan yang memadai.

Kronologi Peringatan Risiko Eksistensial AI

Peringatan yang disampaikan oleh para peneliti ini menandai puncaknya krisis kepercayaan internal di laboratorium-laboratorium pengembangan AI. Urutan peristiwa yang memicu kekhawatiran global ini mencakup beberapa poin krusial:

1. Tahun 2023: Pembentukan tim keselamatan khusus di Anthropic dan OpenAI guna memantau perkembangan serta perilaku model bahasa besar (LLM).
2. Awal 2024: Pengunduran diri secara massal dari sejumlah peneliti senior OpenAI dan Anthropic sebagai bentuk protes atas pengabaian protokol mitigasi risiko.
3. Pertengahan 2024: Publikasi terbuka dari para mantan karyawan yang mengkritik budaya perusahaan karena menomorsatukan kecepatan komersialisasi dibanding pengujian keselamatan sistem.

"Kami sedang membangun sesuatu yang tidak sepenuhnya kami pahami cara kerjanya dan bagaimana cara mengendalikannya jika sistem tersebut memutuskan untuk bertindak di luar skenario yang direncanakan," ujar Jacob Coxon saat menyuarakan keprihatinannya terhadap arah industri saat ini.

Analisis Persaingan Superintelegensi dan Risiko Keselamatan

Secara analitis, perlombaan pengembangan AI saat ini berada pada tahap yang sangat mengkhawatirkan. Investasi bernilai puluhan miliar dolar AS terus digelontorkan untuk melatih model dengan miliaran parameter. Namun, pengalokasian dana untuk riset keselamatan dan AI alignment diperkirakan masih sangat minim, yakni di bawah 10% dari total anggaran riset keseluruhan.

Para pakar memperingatkan bahwa tanpa adanya regulasi independen yang mengikat secara global, perusahaan teknologi berada dalam dilema komersial yang berbahaya. Jika salah satu perusahaan memperlambat peluncuran demi pengujian keselamatan, kompetitor akan langsung mengambil alih pangsa pasar. Hal inilah yang mendorong munculnya budaya mengabaikan peringatan keamanan demi menjadi yang pertama mencapai AGI dalam tenggat waktu 3 hingga 5 tahun ke depan.

Perbandingan Pendekatan Keselamatan Perusahaan AI

Untuk memberikan gambaran mengenai lanskap keamanan di industri ini, berikut adalah perbandingan pendekatan keselamatan antara dua pengembang AI utama:

Situasi ini mendesak pemerintah dan badan internasional untuk segera mengambil langkah tegas. Tanpa audit independen dan standar keselamatan internasional yang ketat, pengembangan kecerdasan buatan tanpa kendali berisiko menciptakan krisis eksistensial bagi peradaban. Pakar etika AI menegaskan bahwa perlindungan terhadap manusia harus diletakkan di atas keuntungan bisnis semata agar teknologi tidak menjadi ancaman bagi penciptanya sendiri.