Pada 8 September 2026, seorang peneliti berusia 27 tahun menulis utas tujuh bagian di X dan menuding dua laboratorium AI paling berpengaruh di dunia sedang "mempertaruhkan nyawa kita." Dalam semalam, utas itu ditonton hampir 76 juta kali. Yang membuatnya sulit diabaikan bukan cuma angka tontonan itu, tapi siapa penulisnya: peneliti pretraining yang baru saja mengundurkan diri dari Anthropic, setelah sebelumnya juga tiga tahun menangani pekerjaan serupa di OpenAI (Time).
Utas yang menampar dua laboratorium sekaligus
Jacob Coxon — nama di balik utas itu — menulis bahwa baik Anthropic maupun OpenAI "tidak bertindak secara tanggung jawab." Kutipannya yang paling banyak dikutip ulang: "Mereka berlomba langsung menuju superintelligence yang mampu mengembangkan dirinya sendiri, dan mempertaruhkan nyawa kita" (Khaleej Times). Argumennya bukan sekadar kritik dari luar — ia mengaku para peneliti di dalam kedua laboratorium itu bisa melihat bahaya tersebut dengan jelas, tapi tetap melanjutkan pekerjaannya karena yakin jika mereka berhenti, kompetitor akan terus melaju lebih cepat tanpa mereka. Yang membuat posisinya berbeda dari kritikus-kritikus AI pada umumnya: selama tiga tahun terakhir Coxon bekerja di sisi pretraining — tim yang justru membangun kapabilitas model, bukan tim keselamatan yang biasanya menjadi sumber peringatan semacam ini. Kritiknya datang dari orang yang ikut membangun teknologi yang ia sendiri sebut berbahaya, bukan dari pihak yang berdiri di luar pagar. Momentumnya makin besar karena utas itu muncul bersamaan dengan wawancara Coxon di Wall Street Journal pada hari yang sama, yang mendorong jangkauannya jauh di luar lingkaran peneliti AI (Newsweek).
Anthropic sendiri membenarkan, bukan membantah
Biasanya, perusahaan yang dikritik mantan karyawannya akan merilis bantahan atau pernyataan normatif soal "komitmen terhadap keselamatan." Yang terjadi di sini berbeda. Sehari setelah utas Coxon viral, Evan Hubinger — yang memimpin riset alignment science di Anthropic, bukan juru bicara luar — menulis balasan publik: "Jacob benar di sini; kami memang sungguh-sungguh percaya AI bisa membunuh seluruh manusia! Saya pribadi memperkirakan kemungkinannya di atas 10 persen dalam dekade mendatang." Ia melanjutkan, "Saya percaya Anthropic berusaha sebaik mungkin, tapi kami belum punya rencana untuk menyelesaikan masalah alignment pada superintelligence, dan belum jelas berada di jalur yang tepat untuk itu" (The Next Web). Ini bukan pengakuan samar dari dokumen hukum atau prospektus investor — ini kalimat langsung dari orang yang secara resmi bertanggung jawab memastikan model-model Anthropic aman, dipublikasikan sebagai respons terbuka terhadap kritik mantan koleganya sendiri.
Bukan kasus pertama, dan kemungkinan bukan yang terakhir
Pola yang digambarkan Coxon — peneliti yang melihat risiko dari dalam tapi tetap melanjutkan karena takut kalah dari kompetitor — bukan narasi baru di industri AI; versi-versi lebih halusnya sudah muncul berulang sejak laboratorium-laboratorium besar mulai bersaing memperebutkan model paling canggih. Yang baru di sini adalah kombinasi tiga hal sekaligus: kritik datang dari orang dalam yang baru saja berhenti, bukan pengamat luar; jangkauannya tembus puluhan juta orang dalam waktu singkat berkat momentum media arus utama; dan yang paling tidak biasa, pucuk pimpinan riset keselamatan di salah satu perusahaan yang dikritik justru membenarkan isi kritik itu secara terbuka, bukan menepisnya. Sejauh laporan yang beredar, OpenAI — pihak lain yang disebut langsung dalam utas Coxon — belum mengeluarkan tanggapan resmi setingkat Hubinger; satu-satunya pembenaran terbuka datang dari dalam Anthropic sendiri, bukan dari kedua perusahaan yang dikritik. Insiden ini juga muncul di tengah tekanan kompetitif yang belum menunjukkan tanda melambat — kedua laboratorium yang disebut Coxon tetap merilis model-model baru dengan kemampuan yang terus meningkat sepanjang tahun ini, persis dinamika yang ia sebut sebagai "perlombaan" itu sendiri. Episode ini menunjukkan jurang yang makin lebar antara kecepatan pengembangan kapabilitas AI dan kecepatan penyelesaian masalah keselamatannya — jurang yang, menurut pengakuan Hubinger sendiri, belum punya rencana konkret untuk ditutup.
Takeaway
Resignasi Jacob Coxon menarik perhatian karena viral, tapi yang membuatnya penting bukan jumlah tontonannya — melainkan karena kepala riset keselamatan Anthropic sendiri, bukan kritikus luar, yang membenarkan isi kritiknya: perusahaan itu sendiri mengakui belum punya rencana jelas untuk menyelesaikan masalah alignment pada superintelligence. Ketika orang yang paling bertanggung jawab atas keselamatan sebuah model AI mengatakan terbuka bahwa perusahaannya "belum jelas berada di jalur yang tepat," itu bukan lagi perdebatan filosofis tentang risiko AI jangka panjang — itu laporan status dari dalam, dari salah satu laboratorium yang paling sering diklaim sebagai yang paling peduli soal keselamatan AI dibanding kompetitornya.
Sumber gambar: Vojtech Bruzek di Unsplash Sumber gambar: Tim van der Kuip di Unsplash Sumber gambar: Umberto di Unsplash
The conversation 0
No comments yet. Start the conversation.