China Jadi Negara Pertama yang Bagi Wewenang Keputusan AI Agent ke Tiga Tingkat

Kalau agen AI buatanmu menyentuh pengguna, data, atau pasar China — termasuk lewat platform global yang kebetulan punya pengguna di sana — sejak 15 Juli lalu kamu punya kewajiban baru: mendaftarkan wewenang keputusan agen itu ke pemerintah China, dan membaginya ke dalam tiga tingkat kewenangan yang jelas. Ini bukan pedoman etika yang sifatnya imbauan. Ini kerangka regulasi yang mengikat, dan menurut sejumlah analis kebijakan, ini yang pertama di dunia yang dibuat khusus untuk agen AI — bukan AI generatif secara umum (IAPP).

Sementara regulator lain masih meraba-raba bagaimana mengatur sistem yang bisa bertindak otonom atas nama penggunanya, China sudah punya jawaban konkret: bagi dulu wewenangnya, baru izinkan jalan.

Isi aturan: tiga tingkat wewenang, tiga lembaga penerbit

Aturan ini bernama Implementation Opinions on the Standardized Application and Innovative Development of Intelligent Agents, diterbitkan bersama oleh tiga lembaga sekaligus — Cyberspace Administration of China (CAC), National Development and Reform Commission (NDRC), dan Ministry of Industry and Information Technology (MIIT) — dan efektif berlaku 15 Juli 2026 (Rimon Law).

Inti aturannya: sebelum sebuah agen AI dirilis, pengembang wajib memilah setiap kategori keputusan yang bisa diambil agen itu ke dalam tiga tingkat — keputusan yang hanya boleh diambil manusia, keputusan yang butuh persetujuan pengguna lebih dulu, dan keputusan yang boleh dijalankan agen sepenuhnya sendiri. Pengguna berhak tahu tingkat mana yang berlaku untuk tiap tindakan, dan agen tidak boleh bertindak di luar cakupan yang sudah diotorisasi penggunanya (MachineBrief).

Prinsip yang dipegang regulator disebut eksplisit: keamanan didahulukan, baru inovasi — bukan sebaliknya.

Wajib lapor, uji kepatuhan, dan recall di sektor berisiko tinggi

Aturan ini tidak berlaku sama rata ke semua agen. Sembilan belas sektor prioritas masuk kerangka tata kelola berjenjang, dan sektor-sektor yang dianggap berisiko tinggi — kesehatan, keuangan, transportasi, layanan yudisial, keamanan publik, dan media — kena kewajiban tambahan yang jauh lebih berat: pendaftaran wajib (filing), uji kepatuhan sebelum rilis, dan ketentuan penarikan produk (recall) kalau agen itu terbukti melanggar batas wewenangnya di lapangan (Pebblous).

Dengan kata lain, agen AI untuk rekomendasi resep masakan dan agen AI yang membantu keputusan diagnosis medis tidak diperlakukan sama. Yang kedua harus melalui proses pendaftaran dan pengujian sebelum boleh beroperasi, dan kalau di lapangan terbukti mengambil keputusan di luar tingkat wewenang yang sudah didaftarkan — misalnya agen yang seharusnya cuma boleh merekomendasikan lalu diam-diam mengeksekusi sendiri — operatornya wajib menariknya dari peredaran, bukan sekadar menambal lewat pembaruan diam-diam.

Ketentuan recall ini yang membuat aturan ini beda dari sekadar kewajiban transparansi. Kalau kebanyakan regulasi AI berhenti di "wajib diungkap ke publik," China menambahkan konsekuensi operasional langsung: gagal patuh berarti produk berhenti beredar, bukan cuma kena catatan pelanggaran administratif.

Kenapa ini beda dari regulasi AI sebelumnya — dan siapa yang kena dampak

Selama ini kebanyakan regulasi AI — termasuk EU AI Act — mengatur model dan sistem AI secara umum: bagaimana melatihnya, bagaimana menandai risikonya, apa yang wajib diungkap ke publik. Aturan China ini mengambil sudut berbeda: fokus sepenuhnya ke agen — sistem yang tidak cuma menjawab pertanyaan, tapi bertindak, mengambil keputusan, dan mengeksekusinya atas nama pengguna. Definisi resminya menyebut agen AI sebagai sistem cerdas yang mampu melakukan persepsi otonom, memori, pengambilan keputusan, interaksi, dan eksekusi.

Dampaknya juga melewati batas negara. Perusahaan asing yang platformnya dipakai pengguna di China, atau yang memproses data pengguna China lewat agen otonom, tetap kena kewajiban pendaftaran — sekalipun kantor pusatnya ada di luar China (IAPP). Ini bukan aturan yang bisa diabaikan cukup dengan tidak membuka kantor lokal.

Langkah China ini juga tidak berdiri sendiri. Singapura sudah lebih dulu merilis kerangka panduan AI agentic lewat IMDA di awal tahun, dan sejumlah negara bagian AS mulai menggarap aturan serupa untuk teknologi AI yang meniru interaksi manusia. Tapi dari semua itu, China yang pertama menjadikannya kerangka hukum mengikat dengan mekanisme penegakan konkret — pendaftaran, uji, dan recall — bukan sekadar panduan sukarela.

Takeaway

Aturan agen AI China menandai pergeseran penting dalam cara regulator mendekati AI: dari mengatur model ke mengatur wewenang bertindak. Sistem tiga tingkat — manusia saja, butuh persetujuan, atau otonom penuh — memaksa pengembang menjawab pertanyaan yang selama ini sering dilewati begitu saja: keputusan mana yang sebenarnya boleh diserahkan ke mesin tanpa manusia di tengah prosesnya. Buat siapa pun yang membangun produk berbasis agen dan menyentuh pasar China, ini bukan lagi wacana kebijakan yang bisa ditunggu — sudah berlaku, dan sudah punya gigi lewat kewajiban lapor dan ancaman recall.

Sumber gambar: Igor Omilaev di Unsplash Sumber gambar: Brian Kostiuk di Unsplash Sumber gambar: Tim van der Kuip di Unsplash