Pesquisa do Gartner aponta que agentes guardiões serão cerca de 10 a 15% do mercado de Inteligência Artificial até o ano de 2030

Com base de projeto em inteligência artificial, os agentes guardiões foram projetados para oferecer suporte a interações confiáveis e seguras com IA. Designados à operarem como assistentes de IA, no apoio ao usuário em tarefas do dia-a-dia como revisão, monitoramento e análise de conteúdo, além de atuar como agentes evolutivos semi autônomos ou totalmente autônomos, colaborando com a formulação e execução de planos de ação, assim como trabalhar no redirecionamento de ou bloqueio de iniciativas, a fim de alinhá-las ao objetivo predefinido do agente.

Durante um webinar do Gartner, em maio de 2025, uma pesquisa realizada com mais de 145 CIOs e líderes de função em TI captou que cerca de 24% dos entrevistados já haviam utilizado nas suas funções habituais agentes de IA (menos de uma dúzia) e 4% haviam utilizado e integrado mais de uma dúzia. Além desses, metade dos participantes afirmou estar em fase de testes ou pesquisa com a tecnologia, enquanto 17% ainda não haviam iniciado nenhum tipo de uso, mas declararam intenção de adotar soluções com agentes de IA até o final de 2026.

Esse cenário evidencia um movimento crescente de interesse, o que reforça a urgência por mecanismos automatizados de controle que garantam confiança, segurança e conformidade no uso desses agentes. Como resposta a essa necessidade, ganham espaço os chamados agentes guardiões, sistemas voltados à supervisão e alinhamento ético e operacional da atuação dos agentes de IA.

“Os agentes guardiões aproveitam um amplo espectro de recursos de IA agêntica e avaliações determinísticas baseadas em Inteligência Artificial para supervisionar e  gerenciar toda a gama de capacidade do gente, equilibrando a tomada de decisões em tempo de execução com o gerenciamento de riscos”, aponta Avivah Litan, vice-presidente Analista Distinta da Gartner.

Riscos seguem em crescimento com o poder de usos de agentes inteligentes

Ainda na mesma pesquisa, cerca de 52% dos entrevistados apontaram que seus agentes de IA estão ou estarão inseridos principalmente em casos de uso relacionados a funções administrativas internas, como TI, RH e contabilidade, enquanto 23% estão direcionados a atuarem em funções externas voltadas para o cliente. Com o avanço no uso de agentes de IA, surgem também diversas categorias de ameaças que comprometem sua eficácia e segurança. Entre elas, destacam-se:

• A manipulação de entradas e o envenenamento de dados: situações em que os agentes passam a operar com base em informações distorcidas, maliciosas ou interpretadas de forma equivocada. Riscos que podem afetar diretamente a tomada de decisão dos sistemas, tornando essencial a implementação de defesas robustas.

• Sequestro e uso indevido de credenciais, que podem permitir acessos não autorizados e o roubo de dados sensíveis.

• Risco de os agentes interagirem com sites fraudulentos ou fontes criminosas: podendo desencadear decisões comprometidas ou ações prejudiciais.

• Desvio de comportamento: quando falhas internas ou estímulos externos inesperados levam o agente a agir de maneira não intencional, resultando em danos à reputação da organização ou interrupções nas operações.

Formas de prevenção

O indicado para prevenir situações como essas deve partir de três tipos principais de uso de agentes guardiões para contribuir com a segurança e a proteção das interações de Inteligência Artificial:

• Revisores para identificar e revisar os resultados e conteúdos gerados pela IA quanto à precisão e ao uso aceitável.

• Monitores com a função de observar e rastrear ações de IA e agênticas para acompanhamento humano ou baseado em Inteligência Artificial.

• Protetores direcionados a Ajustar ou bloquear ações e permissões de IA e agênticas usando ações automatizadas durante as operações.

Assim, os agentes guardiões terão sucesso em gerenciar interações e anomalias, independente do tipo de uso, garantindo esse como um pilar fundamental de sua integração, já que na mesma pesquisa realizada pelo Gartner,  70% dos aplicativos de IA usarão sistemas multi-agentes até 2028.