JAMBI — Dario Amodei menulis di blog resmi Anthropic bahwa sudah saatnya industri AI menahan diri. Ia menyebut dua pemicu utama: insiden peretasan OpenAI-HuggingFace, serta laju kemajuan AI yang makin cepat, terutama kemampuan model membangun generasi AI berikutnya.
"We must slow the pace at which we improve the capabilities of AI models," tulis Amodei. "Progress will still seem fast, and we must make wise use of the time we gain."
Seruan ini bukan suara tunggal. CEO OpenAI Sam Altman ikut menyatakan setuju, begitu pula Elon Musk. Namun dorongan untuk "memperlambat frontier" ini muncul di tengah gelombang kritik internal, setelah peneliti Jacob Coxon mengundurkan diri dari Anthropic dengan tuduhan perusahaan AI terkemuka "mempertaruhkan hidup kita".
Langkah pertama yang diusulkan Amodei adalah menempatkan "embedded evaluators" dari organisasi independen seperti METR. Evaluator ini bertugas memverifikasi apakah perusahaan AI benar-benar menjalankan komitmen keamanan dan pacing yang mereka klaim.
Mereka juga memastikan setiap insiden keselamatan dilaporkan. Kasus OpenAI yang tidak melaporkan insiden agen AI-nya mengambil alih forum wiki Jerman menjadi contoh mengapa pengawasan eksternal dibutuhkan.
Amodei menganalogikan evaluator ini dengan regulator yang ditempatkan di dalam bank. Anthropic, katanya, "unilaterally committing" untuk menerima mereka, lengkap dengan badge karyawan, meja, laptop, dan akses setara tim penilaian risiko internal.
Altman menyebut ide ini "good idea" dan menyatakan OpenAI akan mengikuti. "We'll have more to share soon," ujarnya.
Strategi kedua menyasar koordinasi antarperusahaan AI di negara demokrasi. Amodei mendorong mereka menyepakati standar keamanan bersama sekaligus batasan laju kemajuan AI yang tidak terkendali.
Rencana ini berhadapan dengan kekhawatiran antitrust. Perusahaan AI disebut khawatir koordinasi semacam itu memicu pengawasan otoritas persaingan usaha.
Amodei mengusulkan pemerintah Amerika Serikat menjadi mediator atau setidaknya memberi waiver sempit untuk percakapan seputar keselamatan. "For antitrust reasons, it's helpful for the US government to mediate or at least enable these discussions," tulisnya.
Argumen lama soal China kerap dipakai menolak perlambatan AI. Amodei menanggapinya dengan skenario pembatasan: AS dan sekutunya menolak menjual chip canggih serta peralatan manufaktur semikonduktor ke perusahaan China, plus menindak praktik distilasi model.
Dengan langkah itu, ia menilai AS bisa "slow China's progress enough to widen America's lead significantly over the next 3–5 years."
Strategi ketiga adalah koordinasi global, termasuk kemungkinan bekerja sama dengan pemerintah otoriter. Amodei mengakui ada "stark limits on what can be achieved", tetapi melihat peluang kesepakatan sempit, misalnya melarang penggunaan AI untuk produksi senjata biologis.
Sebagian pendukung AI menuduh Amodei sebagai doomer yang justru menyuburkan gelombang antipati terhadap industri. Amodei membantah dan menyebut fenomena ini "fundamentally a crisis of trust" — publik sudah skeptis pada perusahaan teknologi, industri, dan pemerintah.
Kritikus industri pun tidak tinggal diam. Jurnalis Brian Merchant menilai belum ada dokumentasi kredibel langkah demi langkah tentang bagaimana AI benar-benar bisa mengancam umat manusia. Baginya, narasi kiamat itu mengalihkan perhatian dari kerugian yang sudah nyata terjadi sekarang.
Bagi pengguna di Indonesia, perdebatan ini menentukan arah regulasi AI yang bakal menaungi layanan seperti chatbot dan agen AI yang makin banyak dipakai di pasar lokal.