ورقة البحث التي قدمها Sentient حقًا دفعتني لإعادة التفكير في معنى كلمة "متين" عندما نتحدث عن طرق بصمة LLM.

إليك الشيء الذي تتجاهله معظم الأعمال السابقة: جميعها تفترض أن مضيف النموذج يلعب وفقًا للقواعد. سلوك جيد، استجابات متوقعة، وكل شيء منسق. لكن هذا ليس كيف يعمل العالم الحقيقي. بمجرد إدخال مضيف عدائي في المعادلة—شخص يحاول بنشاط التهرب أو انتحال البصمات—تنهار العديد من هذه المخططات التعريفية.

تبدو التقنيات قوية في ظروف المختبر المسيطر عليها. بيانات نظيفة، سيناريوهات تعاونية، كل شيء متوافق. لكن عند تحويل المفتاح إلى بيئات عدائية؟ هنا تبدأ الشقوق في الظهور. تذكير بأن الصلابة النظرية والمرونة العملية هما كائنان مختلفان جدًا. الفجوة بين "يعمل في الاختبار" و"يصمد تحت الهجوم" هي المكان الذي تتفكك فيه العديد من الافتراضات الأمنية بصمت.