1.178 Pekerja AI Minta AS Siapkan Rem Darurat — Anthropic dan OpenAI Terbelah Soal Nadanya

Sebuah surat terbuka yang dipublikasikan 28 Juli lalu tidak meminta industri AI berhenti membangun apa pun. Yang diminta justru lebih rumit: bangun dulu alat untuk berhenti, sebelum ada yang benar-benar perlu menekannya. Penandatangannya bukan aktivis luar yang biasa mengkritik dari kejauhan, melainkan 1.178 orang dari dalam laboratorium AI paling berpengaruh di dunia — termasuk CEO Anthropic Dario Amodei sendiri.

Yang membuat surat "Pacing the Frontier" ini beda dari petisi-petisi AI safety sebelumnya bukan cuma jumlah penandatangannya, tapi bagaimana dua perusahaan yang sama-sama "mendukungnya" ternyata memberi jawaban dengan nada yang nyaris berlawanan.

Siapa yang menandatangani, dan apa isi permintaannya

Situs resmi Pacing the Frontier memuat daftar 1.178 pekerja dari OpenAI, Anthropic, Meta AI, Google DeepMind, dan sejumlah lab AI lain. Nama-nama yang tercantum bukan staf junior: Dario Amodei (CEO Anthropic), Jakub Pachocki (Chief Scientist OpenAI), Mark Chen (Chief Research Officer OpenAI), Shengjia Zhao (Chief Scientist Meta AI), dan Anca Dragan (VP AI Safety and Alignment Google) semuanya ikut membubuhkan tanda tangan (CNN Business).

Permintaan intinya spesifik: pemerintah AS diminta mendukung upaya internasional membangun perangkat teknis dan tata kelola yang memungkinkan dunia sengaja mengatur pace — kecepatan — riset dan pengembangan AI otomatis. Surat itu secara eksplisit menyebut ini bukan tuntutan jeda sekarang, melainkan permintaan menyiapkan kemampuan untuk memperlambat secara terverifikasi dan terkoordinasi, kalau kelak kemampuan sistem AI melaju lebih cepat dari kesanggupan manusia mengawasinya (Fortune).

Kenapa sekarang: riset self-improvement yang jadi pemicu

Titik picu surat ini bukan insiden tunggal, tapi akumulasi riset internal yang belakangan dipublikasikan soal recursive self-improvement — skenario ketika model AI mulai berkontribusi signifikan pada riset dan pengembangan model generasi berikutnya, sehingga siklus peningkatan kemampuannya bisa mempercepat diri sendiri tanpa jeda yang cukup bagi manusia untuk mengevaluasi tiap lompatan (TechTimes).

Anthropic secara terbuka mengaitkan surat ini langsung dengan riset self-improvement miliknya sendiri yang dirilis bulan sebelumnya, menyebut temuan itu sebagai alasan konkret kenapa dunia butuh alat untuk sengaja mengatur laju pengembangan AI — bukan sekadar wacana keamanan abstrak.

Dua perusahaan, dua nada jawaban

Anthropic merespons dalam hitungan jam sejak surat dipublikasikan, dan pernyataannya jauh dari sekadar formalitas: "Kami mendukung petisi ini, yang ditandatangani CEO kami, beberapa co-founder, dan staf senior. Riset kami sendiri soal recursive self-improvement, yang dipublikasikan bulan lalu, menunjukkan perlunya alat untuk sengaja mengatur laju pengembangan AI agar masyarakat sempat bersiap."

OpenAI, sebaliknya, memilih kalimat yang jauh lebih berhati-hati: "Kami percaya bahwa pada titik tertentu di masa depan, laju akselerasi AI dalam pengembangan model frontier bisa menjadi begitu tinggi sehingga dunia perlu menetapkan irama untuk kemajuan AI." Tidak ada penyebutan riset internal, tidak ada pengakuan urgensi — hanya proyeksi kondisional soal "suatu titik di masa depan" (TechTimes).

Kesenjangan nada ini penting justru karena kedua perusahaan sama-sama masuk daftar "mendukung" surat itu. Yang satu memakainya untuk mendorong urgensi lewat riset sendiri; yang lain memakainya untuk menunda komitmen konkret ke masa depan yang tidak ditentukan.

Apa yang sebenarnya diminta dari pemerintah

Surat ini tidak meminta Kongres AS membuat undang-undang pembatasan kecepatan riset secara langsung. Yang diminta lebih sempit dan lebih teknis: dukungan pemerintah untuk membangun infrastruktur pemantauan dan verifikasi lintas negara — semacam mekanisme yang bisa mendeteksi kapan laju pengembangan model frontier mulai melampaui kapasitas pengawasan manusia, dan alat koordinasi internasional supaya kalau rem itu perlu ditarik, semua pihak besar menariknya bersamaan, bukan sepihak.

Ini beda dari kerangka tinjauan keamanan siber pra-rilis yang lebih dulu disepakati Gedung Putih dengan OpenAI, Anthropic, dan Google — kerangka itu soal memeriksa satu model sebelum rilis publik. Surat "Pacing the Frontier" bicara soal sesuatu yang jauh lebih besar: kecepatan keseluruhan lomba riset AI antar-laboratorium dan antar-negara, dan siapa yang punya otoritas mengatur temponya.

Takeaway

Surat "Pacing the Frontier" adalah momen langka ketika lebih dari seribu orang di dalam industri AI — termasuk sejumlah eksekutif puncaknya sendiri — secara terbuka meminta pemerintah menyiapkan kemampuan mengerem laju pekerjaan mereka sendiri. Tapi respons OpenAI dan Anthropic yang sama-sama "mendukung" surat ini dengan nada yang nyaris berlawanan menunjukkan bahwa dukungan formal terhadap ide pacing jauh lebih mudah didapat daripada komitmen konkret soal kapan dan bagaimana rem itu benar-benar dipakai. Untuk publik yang mengikuti kebijakan AI, jarak antara "mendukung petisi" dan "bersedia diperlambat" itulah yang layak diawasi ke depan, bukan sekadar jumlah tanda tangan di bawah surat.

Sumber gambar: Growtika di Unsplash Sumber gambar: Annie Spratt di Unsplash Sumber gambar: Florian Olivo di Unsplash