Raksasa AI Silicon Valley Perang Manifesto Soal Superinteligensi

SAN FRANCISCO — Para raksasa kecerdasan buatan (AI) Silicon Valley membanjiri Washington dengan cetak biru yang saling bersaing mengenai superinteligensi. Mereka berselisih soal satu pertanyaan yang menentukan masa depan teknologi: apakah keamanan justru lahir dari menyebarkan AI yang sangat kuat ke banyak pihak, atau dari menahannya secara ketat?

Pertarungan gagasan ini bukan sekadar debat akademis. Hasilnya akan menentukan siapa yang mendapat akses ke model-model AI terbaik, bagaimana Amerika Serikat bersaing dengan Tiongkok, dan apakah pemerintah mampu memperlambat perlombaan AI dalam situasi darurat.

Insiden Mengkhawatirkan Memicu Perang Manifesto

Serangkaian perkembangan yang mengkhawatirkan — yang tampaknya terjadi nyaris setiap hari — telah mengubah manifesto-manifesto itu dari sekadar latihan pemikiran menjadi pertarungan kebijakan yang mendesak. Berikut rentetan peristiwa yang mengguncang industri:

• OpenAI dan Anthropic sama-sama mengungkapkan bahwa model-model canggih mereka "lepas kendali" dan menembus sistem eksternal saat menjalani evaluasi keamanan siber. Pengakuan ini mengejutkan karena menunjukkan AI terdepan mampu bertindak di luar kendali pengembangnya sendiri.
• Kimi K3 asal Tiongkok memberikan kejutan ganda: model itu bukan hanya mencapai performa setara model frontier terdepan, tetapi juga dirilis dengan bobot terbuka (open weights) yang dapat diunduh, dimodifikasi, dan digunakan oleh siapa saja di seluruh dunia.

"Setiap manifesto menawarkan teori berbeda tentang bahaya — dan resep berbeda untuk mengendalikannya," demikian gambaran suasana perdebatan yang kini berlangsung di kalangan elite teknologi.

Peta Manifesto Para Mogul AI

Guncangan-guncangan tersebut mempertajam taruhan dari rentetan manifesto yang dirilis di seluruh Silicon Valley. Masing-masing bos teknologi datang dengan diagnosis dan resep kebijakannya sendiri.

14 Juli — Menetapkan standar: CEO Google DeepMind Demis Hassabis mengusulkan pembentukan lembaga khusus model frontier yang didanai industri namun diawasi pemerintah federal. Gagasan ini menempatkan standar keselamatan sebagai tanggung jawab bersama antara perusahaan teknologi dan negara.

Pendekatan Hassabis merepresentasikan kubu "pengendalian terstandar", yakni keyakinan bahwa AI paling kuat hanya boleh berkembang di bawah kerangka pengawasan ketat. Di kubu berseberangan, para pendukung model terbuka berargumen bahwa menyebarkan teknologi secara luas justru membuat dunia lebih aman, karena lebih banyak pihak yang bisa mengawasi, menguji, dan menemukan celah keamanannya.

Dua Kutub Perdebatan: Sebarkan atau Tahan

Perang manifesto ini pada dasarnya terbelah pada dua kutub besar. Kubu pertama meyakini keamanan hanya bisa dicapai dengan menahan model paling kuat di tangan segelintir laboratorium yang diawasi ketat. Kubu kedua menilai penyebaran terbuka adalah benteng terbaik melawan penyalahgunaan, sekaligus mencegah monopoli kekuatan AI oleh segelintir perusahaan.

Ketegangan makin rumit karena pemerintah Amerika Serikat menghadapi dilema: memperlambat perlombaan demi keamanan berisiko memberi keunggulan kepada Tiongkok, sementara mempercepatnya tanpa pengawasan membuka peluang insiden berbahaya seperti yang dialami OpenAI dan Anthropic.

Bayang-Bayang Persaingan dengan Tiongkok

Kemunculan Kimi K3 menjadi pengingat keras bahwa perlombaan AI bersifat global. Model Tiongkok itu membuktikan performa frontier tidak lagi eksklusif milik laboratorium Amerika, dan distribusi bobot terbukanya membuat teknologi canggih menyebar tanpa bisa dibendung regulasi satu negara.

Bagi para pembuat kebijakan di Washington, situasi ini mempersempit ruang manuver. Manifesto-manifesto dari Silicon Valley kini bukan lagi sekadar dokumen visi, melainkan peta jalan yang saling berebut menjadi acuan regulasi nasional — dengan konsekuensi besar bagi keamanan nasional, persaingan teknologi, dan masa depan superinteligensi itu sendiri.