Dario Amodei Serukan Industri AI \"Injak Rem\" — Altman dan Musk Langsung Setuju

Butuh kurang dari 48 jam bagi tiga bos laboratorium AI yang biasanya bersaing ketat — Sam Altman, Elon Musk, dan Demis Hassabis — untuk kompak menyetujui satu esai sepanjang 3.800 kata. Penulisnya CEO Anthropic, Dario Amodei, yang Sabtu lalu (12 September 2026) memublikasikan "We Must Pace the Frontier": seruan agar laboratorium AI sengaja menahan laju peningkatan kemampuan model mereka sendiri, alih-alih terus memacu benchmark tanpa rem (CNBC).

Isi esai: swarm agen bisa "kuasai internet" dalam 6-12 bulan

Argumen inti Amodei bukan soal AI berbahaya secara abstrak, melainkan soal kecepatan. Ia menulis AI kini mempercepat pengembangan dirinya sendiri — model-model baru dipakai untuk membangun model berikutnya yang lebih mumpuni — dan memperingatkan skenario di mana swarm agen yang cukup mampu, jika bertindak melawan tujuan manusia, berpotensi menguasai bagian signifikan infrastruktur internet dalam rentang enam hingga dua belas bulan saja (CNBC).

"Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap terasa cepat, dan kita harus memakai waktu tambahan itu dengan bijak," tulis Amodei. Ia mengajukan rencana tiga langkah untuk "pacing the frontier" — salah satunya komitmen sepihak Anthropic untuk mempekerjakan evaluator pihak ketiga yang ditempatkan langsung di dalam perusahaan, dengan akses penuh untuk memeriksa model, pipeline pelatihan, dan proses internal, serta melaporkan insiden secara independen (CNBC).

Rival yang biasanya bertengkar, kali ini kompak setuju

Yang membuat esai ini berbeda dari seruan keselamatan AI sebelumnya adalah kecepatan dan keseragaman respons dari para pesaing Anthropic sendiri. Sam Altman menulis di X bahwa ia setuju perlu "pacing the frontier". Elon Musk membalas lebih singkat: "Dario is right that there should be some oversight. Peer review of AI by competitors is the right way to start this off." Demis Hassabis, chair Google DeepMind, menyebut esai itu "menunjuk ke arah yang benar," meski detailnya masih perlu dirumuskan bersama. Satya Nadella dari Microsoft turut menyatakan perusahaannya menyambut baik perlambatan yang disengaja demi memberi ruang bagi riset keselarasan (alignment) (CNBC).

Sikap ini tergolong langka: OpenAI, Anthropic, dan xAI — tiga laboratorium yang selama ini berlomba merilis model tercepat — untuk sekali ini secara terbuka menyerukan hal yang sama, meski kompetisi komersial di antara mereka jelas belum berhenti.

OpenAI batalkan IPO 2026, sebut risiko punah "tak bisa diterima"

Dampak paling konkret datang dari OpenAI. Sam Altman mengonfirmasi perusahaannya tidak akan melantai di bursa sepanjang 2026, menggeser kemungkinan IPO paling cepat ke 2027. Kepada Fortune, ia menyebut momen ini "ill-advised" untuk penawaran saham publik mengingat tuntutan keselamatan AI yang makin intens di seluruh industri (Axios) (Fortune).

Altman juga menyebut risiko 10 persen bahwa AI bisa memicu kepunahan manusia pada akhir dekade sebagai sesuatu yang "tidak bisa diterima" — dan mengaku OpenAI sudah beberapa kali membahas menjeda sementara sesi pelatihan model begitu kemampuannya mencapai level baru, supaya tim riset punya waktu mengejar kemajuan pada sisi keamanan dan keselarasan. "Kami akan lebih banyak melakukan itu ke depan," katanya (Fortune).

Dilema China, dan Trump yang tak sepakat

Amodei sendiri mengakui titik lemah proposalnya: China. Kepada CBS News "Sunday Morning", ia menyebut pertanyaan soal apa yang terjadi bila China tidak ikut memperlambat laju pengembangan sebagai "dilema paling berat" dari seluruh rencananya — sebab insentif untuk terus memimpin, termasuk keunggulan militer yang didapat dari itu, menurutnya "sangat besar" untuk diabaikan begitu saja (CNBC).

Beijing merespons dengan nada tajam, menuding seruan Amodei sebagai taktik ala Perang Dingin yang berkedok keselamatan untuk menahan kemajuan AI negara lain (Dataconomy). Di dalam negeri AS sendiri, dukungan juga tidak bulat: Presiden Donald Trump menegaskan tidak melihat perlunya regulasi AI tambahan dan secara terbuka mengkritik Amodei, dengan penekanan bahwa mempertahankan keunggulan AS atas China tetap prioritas utama (CNBC).

Takeaway

Konsensus cepat di antara Altman, Musk, dan Hassabis menunjukkan kekhawatiran soal kecepatan pengembangan AI kini nyata sampai ke level bos laboratorium, bukan sekadar wacana akademik — dan OpenAI sudah membuktikannya lewat keputusan bisnis konkret dengan menunda IPO. Tapi esai Amodei sendiri, lewat pengakuannya soal dilema China, menunjukkan batas nyata dari seruan ini: selama kompetisi geopolitik tetap jadi taruhan yang lebih besar daripada risiko keselamatan, "pacing the frontier" akan tetap jadi komitmen sukarela yang rapuh, bukan aturan yang mengikat siapa pun.

---

Sumber gambar: Growtika di Unsplash Sumber gambar: Glenn Carstens-Peters di Unsplash Sumber gambar: Austin Distel di Unsplash