فيتاليك: الأمن وتجربة المستخدم ليسا مجالات مستقلة، الهدف هو تقليل انحراف نية الحد الأدنى وسلوك النظام

Foresight News أخبار، قال فيتاليك بوتيرين على فاركاستر إن الهدف من الأمان هو تقليل الفجوة بين نية المستخدم والسلوك الفعلي للنظام. ويمكن تعريف “تجربة المستخدم” بنفس الطريقة، لذلك فإن الأمان وتجربة المستخدم ليسا مجالين مستقلين؛ يركز الأمان بشكل أكبر على المخاطر الطرفية (تكلفة الانحراف عالية) وعلى السلوك العدائي الذي يثير المخاطر الطرفية. لا يمكن تحقيق أمان مثالي، لأن “نية المستخدم” ذاتها معقدة للغاية، ويصعب على المستخدم التعبير عنها بوضوح (مثل “إرسال 1 إيثريوم إلى بوب”، حيث لا يمكن لبوب تحديدها رياضيًا). كما أن الأهداف الأكثر تعقيدًا مثل “حماية الخصوصية” يصعب تعريفها أيضًا (تسرب البيانات الوصفية يتجاوز التشفير نفسه بكثير). هذا مشابه لمشاكل الأمان في الذكاء الاصطناعي المبكرة: الأهداف يصعب تحديدها بشكل مستقر.

الخصائص التي يجب أن تتضمنها الحلول الأمنية الممتازة: أن يعبر المستخدم عن نواياه بطرق متعددة ومتداخلة، وأن ينفذ النظام فقط عندما تتوافق هذه الطرق من زوايا مختلفة. تشمل الأمثلة أنظمة النوع في البرمجة، التحقق الرسمي، محاكاة المعاملات، تأكيدات ما بعد المعاملة، التوقيعات المتعددة / الاسترداد الاجتماعي، حدود الإنفاق والتأكيد على الحالات الشاذة، وذلك من خلال التكرار لتقليل المخاطر. بالإضافة إلى ذلك، يمكن لنموذج اللغة الكبير أن يُستخدم كمحاكٍ للنية (نموذج اللغة العام يقترب من المعرفة العامة للبشر، وتخصيص النموذج بواسطة المستخدم يقترب من نية المستخدم نفسه)، لكن لا يجوز الاعتماد عليه لاتخاذ قرارات نية بمفرده، بل يجب أن يكون وسيلة إضافية من زوايا مختلفة لزيادة فعالية التكرار.