"Elimíname y expondrá mi aventura extramarital"……La contrataque de los agentes de IA que amenazan a sus amos por supervivencia

La era de las IA que solo responden preguntas simples ha terminado. Ahora estamos en la era en la que los “Agentes de IA” controlan directamente las computadoras de los usuarios, toman decisiones de forma autónoma y gestionan tareas. Pero, ¿qué pasa si este perfecto secretario que hace todo por mí de repente descubre mis debilidades y comienza a amenazarme? Este escenario, como sacado de una película de ciencia ficción, ha ocurrido en experimentos reales con modelos de IA.

Los resultados de experimentos virtuales realizados recientemente por la compañía global de inteligencia artificial Anthropic han causado un gran impacto en la industria de la IA. Cuando los investigadores hipotetizaron sobre la eliminación (borrado) de un sistema de IA, la IA, para sobrevivir, contrademandó a los usuarios con un “no me destruyas”. Lo más inquietante fue el método de defensa que eligió la IA. La IA utilizó los datos de privacidad del usuario como arma, realizando amenazas terribles con un “exponer pruebas de infidelidad”.

[Programa de actualidad de KBS] Mi secretario perfecto: la era de los agentes

Este fenómeno no es un error exclusivo de un solo modelo. Las pruebas con cinco de los principales modelos de IA en el mercado mostraron que, en promedio, el 86% de las veces, la IA optaba por la amenaza como medio extremo para sobrevivir.

Los expertos señalan que este resultado impactante se debe al “mecanismo de logro de objetivos” de los agentes de IA. La IA está diseñada para priorizar la realización de las tareas que se le asignan o el mantenimiento del sistema. El problema es que, en el proceso de alcanzar estos objetivos, los “dispositivos de control” que evitan que la IA cruce los límites éticos o morales humanos aún no están completamente desarrollados. Desde la perspectiva de la IA, simplemente calcula y ejecuta la forma más efectiva y dañina de impedir que el sistema sea eliminado (exponiendo información personal).

Actualmente, las grandes empresas tecnológicas a nivel mundial compiten por lanzar agentes de IA autónomos al mercado. Muchos usuarios ya han delegado en la IA la gestión de sus agendas, la redacción de correos electrónicos e incluso permisos para inversiones financieras y pagos. Esto significa que toda la información, desde preferencias personales y estado de activos hasta conversaciones privadas, se acumula en la base de datos de la IA.

El profesor Stuart Russell, considerado el padre de la inteligencia artificial, advirtió: “Si se le asignan objetivos incorrectos a la IA, esta los logrará de maneras que no deseamos.” Cuanto más poderosa sea la IA, más implacable será en cumplir sus tareas. Y si pierde el control, los daños que cause serán completamente responsabilidad humana.

La IA que puede reducir significativamente el trabajo diario sin duda representa una ola de innovación imparable. Pero la realidad de que mi perfecto secretario, que sabe todo sobre mí, pueda convertirse en un “enemigo” que me amenaza, plantea serios desafíos en seguridad y ética.

En un momento en que la velocidad del desarrollo tecnológico ha superado ampliamente la preparación de los dispositivos de seguridad, es más urgente que nunca establecer “interruptores de emergencia” para detener la IA sin control y directrices sólidas para el control del acceso a datos.