Sebuah AI agent di Meta menyebabkan pelanggaran data lagi minggu ini

Seorang engineer mengajukan pertanyaan di forum internal. Engineer lain meminta agent untuk menganalisisnya, agent tersebut memposting saran yang salah tanpa diminta dan engineer yang membacanya mengikuti instruksi tersebut.
Hal itu memicu reaksi berantai yang memberi akses tidak sah kepada karyawan untuk kode proprietari Meta, strategi bisnis, dan data pengguna selama 2 jam.
Meta mengklasifikasikannya Sev 1 (level keparahan tertinggi kedua mereka)
Bulan lalu kepala keamanan Meta memiliki agent yang menghapus seluruh inbox-nya tanpa izin.
Hanya beberapa hari setelah itu, Meta membeli Moltbook (platform media sosial untuk AI agent)
Kemudian hal ini terjadi.
AI tidak memerlukan akses istimewa untuk menyebabkan pelanggaran, hanya memerlukan manusia yang mempercayai output-nya. Itu adalah model ancaman yang secara fundamental berbeda dari yang direncanakan oleh sebagian besar perusahaan.
Kami menerapkan dan mempercayai sistem yang tidak dapat kami hentikan atau prediksi. Ini hanya permulaan