На этой неделе AI-агент в Meta вызвал еще один взлом данных

Инженер задал вопрос на внутреннем форуме. Другой инженер попросил агента проанализировать это, агент опубликовал неправильный совет без указания и инженер, который его прочитал, следовал инструкциям.
Это вызвало цепную реакцию, которая дала несанкционированным сотрудникам доступ к проприетарному коду Meta, бизнес-стратегиям и данным пользователей в течение 2 часов.
Meta классифицировала это как Sev 1 (их второй по величине уровень серьезности)
В прошлом месяце руководитель безопасности Meta попросила агента удалить весь ее входящий почтовый ящик без разрешения.
Буквально через несколько дней после этого Meta купила Moltbook (социальную платформу для AI-агентов)
А потом это произошло.
AI не нужен был привилегированный доступ, чтобы вызвать взлом, ему просто нужно было, чтобы человек доверял его выводам. Это принципиально другая модель угроз, чем большинство компаний планируют.
Мы развертываем и доверяем системам, которые мы не можем остановить или предсказать. Это только начало