O Gartner aponta seis etapas para ajudar as organizações a reduzir os riscos da proliferação de agentes de Inteligência Artificial (IA). A consultoria prevê que, até 2028, uma empresa global média da Fortune 500 terá mais de 150.000 agentes em uso, em comparação com menos de 15 em 2025, gerando uma proliferação significativa de agentes, complexidade de TI e desafios de gestão.

“Conforme Chief Information Officers (CIOs) e líderes de TI observam uma explosão de agentes de IA em suas organizações, muitos estão enfrentando uma proliferação desgovernada de agentes que expõe suas organizações a uma série de riscos, incluindo desinformação, compartilhamento excessivo e perda de dados”, diz Max Goss, Diretor Analista Sênior do Gartner.

“Muitas organizações recorrem ao bloqueio ou à restrição do uso de agentes de IA, mas essa não é uma solução de longo prazo. Se os funcionários não puderem trabalhar com as ferramentas autorizadas, provavelmente contornarão os controles da organização e começarão a usar shadow AI, o que apresenta riscos muito maiores. As organizações precisam encontrar um equilíbrio que lhes permita governar os agentes e gerenciar sua expansão, mas também capacitar com segurança os funcionários para inovar com essas ferramentas.”

O Gartner identificou seis etapas para ajudar os CIOs e líderes de TI a estabelecer governança e proteções para reduzir os riscos da proliferação de agentes.

1. Estabelecer governança e políticas para agentes: Defina regras claras sobre quando e como os agentes são criados, quem pode criá-los e compartilhá-los, e quais conectores são permitidos.

2. Criar um inventário centralizado de agentes: As organizações podem usar ferramentas de gerenciamento de confiança, risco e segurança de IA (AI TRiSM) para ajudar a identificar e categorizar agentes em todas as aplicações, tanto de ferramentas autorizadas quanto de soluções de shadow AI. Assim que as organizações tiverem um inventário de agentes, elas poderão começar a criar controles adaptativos para aplicar as políticas corretas com base no nível de risco que o agente apresenta.

3. Definir a identidade do agente, as permissões e o modelo de ciclo de vida: Gerencie a identidade do agente, o modelo de permissões e os controles de acesso, revise e desative agentes redundantes para prevenir a expansão descontrolada.

4. Desenvolver a governança da informação de IA: Tenha governança sobre quais informações a ferramenta ou o agente de IA tem acesso e garanta que haja um processo para manter os dados atualizados, gerencie suas permissões para prevenir o compartilhamento excessivo e arquive os dados quando estiverem obsoletos.

5. Monitorar e corrigir o comportamento do agente: Estabeleça visibilidade contínua sobre o uso do agente, garanta a conformidade com as políticas, detecte comportamentos anômalos e corrija os agentes que excedam o escopo pretendido ou a tolerância ao risco.

6. Promover uma cultura de uso responsável da IA: Forneça suporte à força de trabalho com programas de treinamento e uma comunidade de prática para impulsionar a adoção e ampliar as melhores práticas de gestão de agentes em toda a organização.

Fonte: TI Inside