Ce papier de recherche Sentient m'a vraiment obligé à reconsidérer ce que signifie "solide" lorsque nous parlons des méthodes d'empreinte digitale des LLM.

Voici ce que la plupart des travaux antérieurs passent sous silence : ils supposent tous que l'hôte du modèle respecte les règles. Comportement agréable, réponses prévisibles, tout le tralala. Mais ce n'est pas ainsi que fonctionne le monde réel. Une fois qu'on introduit un hôte adversaire dans l'équation—quelqu'un qui tente activement d'éviter ou de falsifier les empreintes digitales—beaucoup de ces schémas d'identification s'effondrent.

Les techniques semblent solides dans des conditions de laboratoire contrôlées. Données propres, scénarios coopératifs, tout est aligné. Mais si on change pour des environnements antagonistes ? C'est là que l'on commence à voir les fissures. Cela rappelle que la robustesse théorique et la résilience pratique sont deux animaux très différents. L'écart entre "fonctionne en test" et "résiste en cas d'attaque" est là où beaucoup d'hypothèses de sécurité s'effondrent silencieusement.