وكيل ذكاء اصطناعي في Meta تسبب في اختراق بيانات آخر هذا الأسبوع

طلب مهندس سؤالاً على منتدى داخلي. قام مهندس آخر بإرسال وكيل للتحليل، وقام الوكيل بنشر نصائح خاطئة دون أن يُطلب منه ذلك، واتبع المهندس الذي قرأها التعليمات.
هذا تسبب في تفاعل متسلسل أعطى موظفين غير مصرح لهم إمكانية الوصول إلى الكود المملوك لـ Meta والاستراتيجيات التجارية وبيانات المستخدمين لمدة ساعتين.
صنفت Meta الحادث كـ Sev 1 (ثاني أعلى مستوى خطورة لديهم)
الشهر الماضي، قام وكيل ذكاء اصطناعي بحذف صندوق الوارد بأكمله لرئيسة السلامة دون إذن.
بعد أيام فقط من ذلك، اشترت Meta شركة Moltbook (منصة وسائط اجتماعية لوكلاء الذكاء الاصطناعي)
ثم حدث هذا.
الذكاء الاصطناعي لم يكن بحاجة إلى وصول مميز للتسبب في الاختراق - كان يحتاج فقط إلى إنسان يثق في مخرجاته. هذا نموذج تهديد مختلف تماماً عما تخطط له معظم الشركات.
نحن نطور ونثق في أنظمة لا يمكننا إيقافها أو التنبؤ بها. هذا مجرد البداية فقط.