Исследовательская статья That Sentient действительно заставила меня пересмотреть, что вообще означает «устойчивость», когда речь идет о методах отпечатков LLM.

Вот что большинство предыдущих работ упускает из виду: все они предполагают, что хост модели действует по правилам. Хорошее поведение, предсказуемые ответы, и так далее. Но так не работает в реальном мире. Как только вы вводите в уравнение враждебного хоста — того, кто активно пытается уклониться от обнаружения или подделать отпечатки — многие из этих схем идентификации просто разваливаются.

Техники выглядят надежными в контролируемых лабораторных условиях. Чистые данные, кооперативные сценарии, все настроено. Но как только переключаешься на враждебные среды? Вот тут начинаются трещины. Это напоминание о том, что теоретическая устойчивость и практическая надежность — это два очень разных понятия. Разрыв между «работает в тестах» и «выдерживает атаку» — именно там многие предположения о безопасности тихо разваливаются.