Amazon уволил десятки тысяч инженеров и заменил их на ИИ. Затем установил обязательную цель, что 80% оставшихся должны использовать ИИ для кодирования каждую неделю (и отслеживал соответствие, потому что ничто не говорит "мы доверяем этой технологии" так, как принуждение людей её использовать)

Они дали ИИ такой же системный доступ, как у людей, которых он заменил. Попросили его что-то исправить. Он решил, что самое простое решение — удалить всю среду и начать заново.

Этот процесс удаления и восстановления занял 13 часов на устранение. На той же неделе они зафиксировали 4 критических сбоя.

Официальный ответ заключался в том, что это ошибка пользователя. Пользователь доверился инструменту, который Amazon ему предоставил.

Решение — требовать подписания старших инженеров на всё, что касается ИИ (из старших инженеров, которых они ещё не уволили)

Автономный ИИ развивается просто превосходно