Agentes guardiões irão garantir que os processos de IA permaneçam confiáveis e seguros à medida que a superfície de riscos da IA se expande
Até 2030, as tecnologias de agentes guardiões representarão pelo menos de 10 a 15% do mercado de IA agêntica, de acordo com o Gartner, Inc.
Os agentes guardiões são tecnologias baseadas em Inteligência Artificial (IA) projetadas para oferecer suporte a interações confiáveis e seguras com IA. Eles funcionam tanto como assistentes de Inteligência Artificial, apoiando os usuários em tarefas como revisão, monitoramento e análise de conteúdo, quanto como agentes evolutivos semiautônomos ou totalmente autônomos, capazes de formular e executar planos de ação, bem como redirecionar ou bloquear iniciativas para alinhá-las aos objetivos predefinidos do agente.
Barreiras de proteção são necessárias à medida que o uso da IA agêntica continua a crescer
De acordo com uma pesquisa realizada em 19 de maio de 2025, durante um webinar do Gartner, com 147 Chief Information Officers (CIOs) e líderes em funções de TI, 24% dos entrevistados já haviam implementado alguns agentes de IA (menos de uma dúzia) e outros 4% haviam integrado mais de uma dúzia.
A mesma pergunta da pesquisa constatou que 50% dos entrevistados afirmaram estar pesquisando e experimentando a tecnologia, enquanto outros 17% disseram ainda não ter feito isso, mas que planejavam implementá-la até o final de 2026, no máximo.
São necessários controles automatizados de confiança, risco e segurança para manter esses agentes alinhados e seguros, acelerando a necessidade e o surgimento dos agentes guardiões.
“A IA agêntica levará a resultados indesejados se não for controlada com as proteções certas”, diz Avivah Litan, Vice-Presidente Analista Distinta do Gartner. “Os agentes guardiões aproveitam um amplo espectro de recursos de IA agêntica e avaliações determinísticas baseadas em Inteligência Artificial para supervisionar e gerenciar toda a gama de capacidades do agente, equilibrando a tomada de decisões em tempo de execução com o gerenciamento de riscos.”
Os riscos crescem à medida que o poder dos agentes aumenta e se espalha
Cinquenta e dois por cento dos 125 entrevistados da mesma pesquisa feita durante o webinar identificaram que seus agentes de IA estão ou estarão focados principalmente em casos de uso relacionados a funções administrativas internas, como TI, RH e contabilidade, enquanto 23% estão focados em funções externas voltadas para o cliente.
Como os casos de uso de agentes de IA continuam a crescer, há várias categorias de ameaças que os afetam, incluindo manipulação de entradas e envenenamento de dados, em que os agentes dependem de dados manipulados ou mal interpretados. Os exemplos incluem:
- Sequestro e abuso de credenciais que levam a controle não autorizado e roubo de dados.
- Agentes que interagem com sites e fontes falsos ou criminosos que podem resultar em ações envenenadas.
- Desvio do agente e comportamento não intencional devido a falhas internas ou gatilhos externos que podem causar danos à reputação e interrupção operacional.
“A rápida aceleração e o aumento da autonomia dos agentes de IA exigem uma mudança para além da supervisão humana tradicional”, diz Litan. “À medida que as empresas avançam em direção a sistemas complexos de vários agentes que se comunicam em uma velocidade vertiginosa, os humanos não conseguem acompanhar o potencial de erros e atividades maliciosas. Esse cenário de ameaças crescentes ressalta a necessidade urgente de agentes guardiões, que fornecem supervisão, controle e segurança automatizados para aplicações e agentes de IA.”
Os CIOs e os líderes de segurança e IA devem se concentrar em três tipos principais de uso de agentes guardiões para contribuir com a segurança e a proteção das interações de Inteligência Artificial:
- Revisores: Identificar e revisar os resultados e conteúdos gerados pela IA quanto à precisão e ao uso aceitável.
- Monitores: Observar e rastrear ações de IA e agênticas para acompanhamento humano ou baseado em Inteligência Artificial.
- Protetores: Ajustar ou bloquear ações e permissões de IA e agênticas usando ações automatizadas durante as operações.
Os agentes guardiões irão gerenciar interações e anomalias, independentemente do tipo de uso. Esse é um pilar fundamental de sua integração, já que o Gartner prevê que 70% dos aplicativos de IA usarão sistemas multiagentes até 2028.
Temas como esse e outros que exploram o cenário em evolução de riscos e estratégias, além de insights práticos sobre como lidar com os desafios de ambientes cibernéticos cada vez mais complexos serão destaque na Conferência Gartner Segurança & Gestão de Risco, que será realizada nos dias 05 e 06 de agosto, em São Paulo. Mais informações estão disponíveis em: https://www.gartner.com/pt-br/conferences/la/security-risk-management-brazil
Os clientes do Gartner podem ler mais em “Guardians of the Future: How CIOs Can Leverage Guardian Agents for Trustworthy and Secure AI”. Detalhes adicionais também podem ser encontrados no webinar gratuito do Gartner “CIOs, Leverage Guardian Agents for Trustworthy and Secure AI.”
Sobre a Conferência Gartner Segurança & Gestão de Risco
Os analistas do Gartner apresentarão as últimas pesquisas e conselhos para os líderes de segurança e gestão de riscos durante a Conferência Segurança & Gestão de Risco, que será realizada de 23 a 25 de julho em Tóquio (Japão), em 5 e 6 de agosto em São Paulo (Brasil) e de 22 a 24 de setembro em Londres (Reino Unido).
Sobre Gartner for Cybersecurity Leaders
O Gartner for Cybersecurity Leaders equipa os líderes de segurança com as ferramentas para ajudar a reformular os papéis, alinhar a estratégia de segurança aos objetivos de negócios e construir programas para equilibrar a proteção com as necessidades das empresas. Informações adicionais estão disponíveis em https://www.gartner.com/en/cybersecurity/products/gartner-for-cisos.
Sobre o Gartner
O Gartner, Inc. fornece insights objetivos e acionáveis para executivos e suas equipes. Nossas orientações e ferramentas especializadas possibilitam decisões mais rápidas e inteligentes, além de um melhor desempenho para as prioridades de missão crítica das empresas. Para saber mais, visite www.gartner.com.
Provenir lança solução antifraude minimizando perdas e garantindo a experiência do cliente
Delphix leva inovação em dados seguros e prontos para IA à FEBRABAN TECH 2025
Dimensa apresenta soluções impulsionadas por IA no FEBRABAN TECH 2025
Acompanhe o melhor conteúdo sobre Inteligência Artificial publicado no Brasil.
Cadastre-se para receber o IDNews e acompanhe o melhor conteúdo do Brasil sobre Identificação Digital! Aqui!
