В этой индустрии, понаблюдав достаточно долго, можно заметить закономерности — каждый раз, когда возникает новая волна технологий, все хвастаются, что они могут сделать, но то, насколько проект проживёт, зачастую зависит не столько от самой технологии, сколько от системы правил, её поддерживающих.

Искусственный интеллект тоже не избежит этого заклятия.

Сейчас мощность моделей сильна? Да. Агент способен автоматически разбирать задачи и выполнять их? Тоже да. Всё это уже не новости. Настоящая сложность — в другом вопросе — когда ИИ начнёт действовать самостоятельно, кто обеспечит, чтобы его поведение не вышло из-под контроля?

**От инструмента к субъекту, чего не хватает между ними**

На данный момент большинство ИИ всё ещё в виде инструмента. Ты отдаёшь команду — он делает, ты забираешь права — он останавливается. Просто и грубо.

Но по мере усиления интеллекта логика меняется. ИИ уже не просто слушает команды, а способен самостоятельно планировать и распределять ресурсы в соответствии с поставленной целью. Как только до этого доходит, ИИ перестаёт быть чистым инструментом — он больше похож на субъект, которому доверено выполнение задач.

Здесь возникает фундаментальный вопрос: любой исполнитель, способный привести к экономическим последствиям, нуждается в системе регулирования. Сейчас эта система практически отсутствует. Многие проекты просто наращивают интеллект, оставляя фундаментальные вопросы управления на потом.

**Сначала управляй деньгами, потом — умом**

Распространённый подход в индустрии — исходить из технологического потолка, спрашивая, насколько умным может стать ИИ. Но есть и противоположный взгляд — раз ИИ должен действовать самостоятельно, сначала нужно чётко контролировать поток средств. Контроль за экономическими действиями — залог управления системными рисками.

Этот подход кажется немного необычным.