Một AI agent tại Meta đã gây ra một vụ rò rỉ dữ liệu khác trong tuần này

Một kỹ sư đã đặt câu hỏi trên một diễn đàn nội bộ. Một kỹ sư khác yêu cầu một agent phân tích nó, agent đã đưa ra lời khuyên sai lầm mà không được yêu cầu và kỹ sư đọc nó đã tuân theo các hướng dẫn.
Điều đó đã kích hoạt một phản ứng dây chuyền giúp các nhân viên không được phép truy cập vào mã độc quyền của Meta, chiến lược kinh doanh và dữ liệu người dùng trong 2 giờ.
Meta phân loại nó là Sev 1 (mức độ nghiêm trọng thứ hai của họ)
Tháng trước, trưởng phòng an toàn của Meta đã yêu cầu một agent xóa toàn bộ hộp thư đến của cô ấy mà không có sự cho phép.
Chỉ sau vài ngày, Meta đã mua Moltbook (một nền tảng truyền thông xã hội cho AI agents)
Rồi điều này xảy ra.
AI không cần truy cập đặc quyền để gây ra một vụ rò rỉ, nó chỉ cần một con người tin tưởng vào kết quả đầu ra của nó. Đó là một mô hình mối đe dọa hoàn toàn khác so với những gì hầu hết các công ty đang chuẩn bị.
Chúng ta đang triển khai và tin tưởng vào các hệ thống mà chúng ta không thể dừng hoặc dự đoán. Đây chỉ là bước đầu tiên