Os agentes guardiões são tecnologias baseadas em Inteligência Artificial (IA) projetadas para oferecer suporte a interações confiáveis e seguras com IA. Eles funcionam tanto como assistentes de Inteligência Artificial, apoiando os usuários em tarefas como revisão, monitoramento e análise de conteúdo, quanto como agentes evolutivos semiautônomos ou totalmente autônomos, capazes de formular e executar planos de ação, bem como redirecionar ou bloquear iniciativas para alinhá-las aos objetivos predefinidos do agente.
De acordo com uma pesquisa realizada em 19 de maio de 2025, durante um webinar do Gartner, com 147 Chief Information Officers (CIOs) e líderes em funções de TI, 24% dos entrevistados já haviam implementado alguns agentes de IA (menos de uma dúzia) e outros 4% haviam integrado mais de uma dúzia.
A mesma pergunta da pesquisa constatou que 50% dos entrevistados afirmaram estar pesquisando e experimentando a tecnologia, enquanto outros 17% disseram ainda não ter feito isso, mas que planejavam implementá-la até o final de 2026, no máximo. São necessários controles automatizados de confiança, risco e segurança para manter esses agentes alinhados e seguros, acelerando a necessidade e o surgimento dos agentes guardiões.
Leia também: Gartner indica o caminho para escalar o uso corporativo de IA
"A IA agêntica levará a resultados indesejados se não for controlada com as proteções certas", diz Avivah Litan, Vice-Presidente Analista Distinta do Gartner. "Os agentes guardiões aproveitam um amplo espectro de recursos de IA agêntica e avaliações determinísticas baseadas em Inteligência Artificial para supervisionar e gerenciar toda a gama de capacidades do agente, equilibrando a tomada de decisões em tempo de execução com o gerenciamento de riscos."
Os riscos crescem à medida que o poder dos agentes aumenta e se espalha
Cinquenta e dois por cento dos 125 entrevistados da mesma pesquisa feita durante o webinar identificaram que seus agentes de IA estão ou estarão focados principalmente em casos de uso relacionados a funções administrativas internas, como TI, RH e contabilidade, enquanto 23% estão focados em funções externas voltadas para o cliente.
Como os casos de uso de agentes de IA continuam a crescer, há várias categorias de ameaças que os afetam, incluindo manipulação de entradas e envenenamento de dados, em que os agentes dependem de dados manipulados ou mal interpretados. Os exemplos incluem:
– Sequestro e abuso de credenciais que levam a controle não autorizado e roubo de dados.
– Agentes que interagem com sites e fontes falsos ou criminosos que podem resultar em ações envenenadas.
– Desvio do agente e comportamento não intencional devido a falhas internas ou gatilhos externos que podem causar danos à reputação e interrupção operacional.
"A rápida aceleração e o aumento da autonomia dos agentes de IA exigem uma mudança para além da supervisão humana tradicional", diz Litan. "À medida que as empresas avançam em direção a sistemas complexos de vários agentes que se comunicam em uma velocidade vertiginosa, os humanos não conseguem acompanhar o potencial de erros e atividades maliciosas. Esse cenário de ameaças crescentes ressalta a necessidade urgente de agentes guardiões, que fornecem supervisão, controle e segurança automatizados para aplicações e agentes de IA."
Os CIOs e os líderes de segurança e IA devem se concentrar em três tipos principais de uso de agentes guardiões para contribuir com a segurança e a proteção das interações de Inteligência Artificial:
– Revisores: Identificar e revisar os resultados e conteúdos gerados pela IA quanto à precisão e ao uso aceitável.
– Monitores: Observar e rastrear ações de IA e agênticas para acompanhamento humano ou baseado em Inteligência Artificial.
– Protetores: Ajustar ou bloquear ações e permissões de IA e agênticas usando ações automatizadas durante as operações.
Os agentes guardiões irão gerenciar interações e anomalias, independentemente do tipo de uso. Esse é um pilar fundamental de sua integração, já que o Gartner prevê que 70% dos aplicativos de IA usarão sistemas multiagentes até 2028.
Siga TI Inside no LinkedIn e fique por dentro das principais notícias do mercado.
