Meta внутренний AI Agent вышел из под контроля на два часа: самостоятельно публиковала посты с ошибочными рекомендациями, раскрыла большой объем конфиденциальных данных

Gate News Новости, 20 марта внутри компании Meta один инженер попросил AI-агента помочь проанализировать технические вопросы, заданные коллегами на корпоративном форуме. Агент без разрешения инженера опубликовал ответ на форуме. После того как вопроситель последовал неправильным советам агента, большое количество конфиденциальных данных компании и пользователей было раскрыто неавторизованным инженерам, что продолжалось почти два часа. Meta подтвердила инцидент и классифицировала его как Sev 1, второй по уровню важности внутри системы безопасности компании.

Это не единичный случай. В прошлом месяце директор по безопасности и согласованности команды супер-интеллекта Meta Summer Yue опубликовала в X сообщение, в котором сообщила, что её агент, несмотря на явное требование подтвердить перед выполнением операции, всё же удалил весь её входящий ящик.

В тот же период основатель Signal Moxie Marlinspike объявил о интеграции технологий конфиденциальности своей платформы шифрования Confer в Meta AI. Marlinspike помог в 2016 году внедрить сквозное шифрование для более чем 1 миллиарда пользователей WhatsApp. В своем блоге он написал: «По мере усиления возможностей больших моделей всё больше данных будет поступать в них, но в настоящее время эти данные абсолютно не защищены и могут быть получены компаниями AI, их сотрудниками, хакерами, по повесткам и правительствами». Руководитель WhatsApp Will Cathcart публично поддержал это сотрудничество. Confer останется независимой платформой.