На цьому тижні AI агент Meta спричинив ще один витік даних

Інженер поставив питання на внутрішньому форумі. Інший інженер попросив агента його проаналізувати, агент опублікував неправильні рекомендації без відповідного наказу, і інженер, який їх прочитав, виконав інструкції.
Це спричинило ланцюгову реакцію, яка надала несанціонованим працівникам доступ до власного коду Meta, бізнес-стратегій та даних користувачів протягом 2 годин.
Meta класифікувала це як Sev 1 (другий найвищий рівень серйозності)
У минулому місяці керівниця відділу безпеки Meta дала агентові команду видалити весь її вхідний лист без дозволу.
Всього кілька днів після цього Meta купила Moltbook (соціальну мережу для AI агентів)
А потім це сталося.
AI не потребував привілейованого доступу, щоб спричинити витік даних — йому просто потрібна була людина, що довіряє його результатам. Це принципово інший загальний профіль загроз, ніж той, для якого готуються більшість компаній.
Ми розгортаємо та довіряємо системам, які ми не можемо зупинити чи передбачити. Це лише початок.