Dalam industri ini, setelah lama berkecimpung, kita akan melihat pola—setiap kali gelombang teknologi baru muncul, semua orang pamer apa yang bisa dilakukan, tetapi yang menentukan berapa lama sebuah proyek bisa bertahan bukanlah teknologi itu sendiri, melainkan sistem aturan yang mendukungnya.

AI juga tidak bisa lepas dari mantra ini.

Sekarang, apakah kemampuan model kuat? Kuat. Agen bisa secara otomatis membongkar tugas dan mengeksekusinya? Juga bisa. Ini sudah bukan berita lagi. Yang benar-benar sulit adalah pertanyaan lain—ketika AI mulai bertindak secara mandiri, siapa yang memastikan perilakunya tidak akan keluar kendali?

**Dari alat ke subjek, apa yang hilang di tengah-tengahnya**

Saat ini, sebagian besar AI masih berbentuk alat. Kamu beri perintah, dia lakukan; kamu tarik kembali izin, dia berhenti. Sederhana dan kasar.

Namun, setelah agen menjadi semakin kuat, logikanya berubah. AI tidak lagi hanya mengikuti instruksi, tetapi mampu merencanakan dan mengatur sumber daya berdasarkan tujuan. Begitu mencapai tahap ini, AI bukan lagi sekadar alat murni—dia lebih mirip subjek yang diberi wewenang untuk menjalankan tugas.

Di sini ada masalah mendasar: setiap entitas yang dapat menghasilkan konsekuensi ekonomi, membutuhkan seperangkat aturan untuk membatasinya. Saat ini, aturan tersebut hampir tidak ada. Banyak proyek hanya fokus menumpuk kecerdasan, tetapi sebenarnya meninggalkan masalah tata kelola fundamental untuk kemudian hari.

**Kelola uang dulu, baru bicara kecerdasan**

Pendekatan umum di industri adalah mulai dari batas tertinggi teknologi, bertanya seberapa pintar AI bisa menjadi. Namun ada proyek yang berbalik—karena AI harus bertindak secara mandiri, maka yang pertama harus dikendalikan adalah aliran dana. Mengendalikan perilaku ekonomi, baru kemudian mengendalikan risiko sistem.

Pendekatan ini cukup tenang dan agak unik.