この業界に長くいると、規則性が見えてくる——新しい技術の波が来るたびに、みんな何ができるかを誇示するが、プロジェクトの存続期間を決めるのは技術そのものではなく、付随するルール体系だ。

AIもこの呪縛から逃れられない。

今、モデルの能力は高いのか？高い。エージェントが自動的にタスクを分解して実行できるのか？できる。これらはもうニュースではない。本当に難しいのは別の問題だ——AIが自主的に行動し始めたとき、誰がその行動の制御を確保するのか？

**ツールから主体へ、中間に何が欠けているのか**

現在、多くのAIはまだツールの形態をとっている。命令を出せば動き、権限を取り上げれば停止する。単純で荒っぽい。

しかし、知能体がますます強くなると、論理は変わる。AIはもはや指示を聞くだけではなく、目標に基づいて自ら計画し、リソースを調整できる。一旦この段階に達すると、AIは純粋なツールではなくなる——それは、タスクを実行するために権限を与えられた何らかの主体のようなものだ。

ここには根本的な問題がある：経済的な結果を生み出すことができる実行主体には、制約を課す制度が必要だ。今、その制度はほとんど空白だ。多くのプロジェクトは単に知能を積み重ねることに集中し、根本的なガバナンスの問題は後回しにしている。

**まず資金を管理し、その次に賢さを語る**

業界でよく見られる考え方は、技術の天井から出発し、AIがどれだけ賢くなるかを問うものだ。しかし、あるプロジェクトは逆の考え方をしている——AIが自主的に行動するなら、まず資金の流れを明確にコントロールしなければならない。経済行動を管理しなければ、システムのリスクも管理できない。

この考え方は少し冷静すぎるくらいだ。