Ameaças de segurança dos agentes de IA, as empresas enfrentam com "governança oportuna"

Com o aumento acentuado de sistemas autónomos, as empresas precisam de se esforçar para identificar a identidade dos agentes de IA e reforçar a proteção de segurança. Na era em que agentes digitais podem aceder a sistemas sensíveis, a questão de quem supervisiona o seu comportamento está a ganhar cada vez mais destaque.

À medida que entidades não humanas acedem a sistemas centrais e processam transações sensíveis, identidades não humanas não controladas representam uma ameaça significativa às marcas globais. Isto está a impulsionar uma transição para um modelo de “governação no momento certo”, em que o comportamento de todos os agentes autónomos deve ser autorizado com base no contexto em tempo real. Desta forma, as empresas começam a encarar os agentes de IA como entidades ativas que precisam de supervisão contínua, e não apenas como ferramentas.

O fundador e CEO da Ping Identity, André Durand, sublinha: “A forma como os nossos sistemas operam em segurança — ou seja, quem exerce que tipo de permissões — é crucial”, e aponta que “sem validação de identidade, a segurança não pode existir, na essência”.

Para tal, a Ping Identity lançou uma plataforma para gerir todo o processo de agentes de IA, desde o registo até à execução em tempo real. Esta solução pretende melhorar a visibilidade global que as empresas têm sobre o ambiente dos agentes e reforçar a segurança empresarial, concedendo apenas quando necessário as permissões de acesso limitadas.

Durand alerta: “Temos de agir rapidamente; para obter uma vantagem competitiva em ambientes de agentes, é necessário aplicar corretamente os princípios de segurança.” É precisamente por isso que os princípios de segurança devem ser implementados de forma adequada para proteger a marca e os sistemas da empresa contra violações.