governança

O agente que ninguém registrou

Em 2 de agosto, o EU AI Act entrou em vigor com poder de multa real. Dados da Zylos Research mostram que 82% das empresas têm agentes rodando em produção sem que a TI saiba da existência deles. A lei não criou um problema novo. Ela colocou preço num que já existia.

Alexandre Izefler
governançaagentesai-native

O agente que ninguém registrou

No dia 2 de agosto, o EU AI Act começou a valer de verdade. Não como diretriz nem como aviso de adequação. Como aplicação concreta, com multas de até €15 milhões ou 3% do faturamento global para organizações que não cumprem as obrigações de sistemas de IA de alto risco.

O que a lei encontrou ao chegar revela um problema que estava lá muito antes da regulação existir.

Uma pesquisa da Zylos Research publicada em maio deste ano documenta o que muita gente suspeitava mas poucos tinham mensurado: 82% das empresas têm agentes de IA rodando em produção sem que a equipe de segurança saiba da existência deles. Não são protótipos nem sandboxes. São agentes operando em sistemas reais, mantendo credenciais ativas, tomando decisões. A TI não viu porque ninguém avisou, e ninguém avisou porque lançar um agente ficou tão simples quanto configurar uma integração de SaaS.

A escala do que ninguém inventariou

A Cloud Security Alliance publicou em março um diagnóstico que complementa esse número. Mais de 50% das organizações não têm inventário sistemático dos seus sistemas de IA. Quarenta por cento sequer conseguem classificar os sistemas que já têm pelos critérios de risco da regulação. A falta de inventário não é sintoma de descuido pontual. É o resultado esperado de dois anos em que a velocidade de deployment foi prioridade e a documentação veio depois, quando virou incidente.

O mesmo levantamento da Zylos registra que apenas 13% das organizações acreditam ter governança adequada para os agentes que já operam. O Gartner projeta que 40% dos aplicativos empresariais vão incorporar agentes de tarefa específica até o fim de 2026, contra menos de 5% em 2025. O ritmo de crescimento é real. O que não acompanhou esse ritmo foi a estrutura de governança.

O Gartner havia confirmado, em maio, que tratar governance como interruptor binário era a causa raiz das falhas com agentes. A discussão avançada era sobre como graduar o controle por nível de autonomia. O que agosto revelou é que a maioria das organizações nem chegou a esse debate. Está no patamar anterior: não sabe o que tem.

O que a conformidade exige, e o que boa engenharia já exigia

O Artigo 12 da regulação estabelece que sistemas de IA de alto risco precisam registrar eventos automaticamente, com retenção mínima de seis meses. O Artigo 11 exige documentação técnica antes do deploy, cobrindo nove categorias obrigatórias descritas no Anexo IV. O Artigo 14 determina que deve existir um mecanismo real de supervisão humana com capacidade de interrupção. Em pipelines multiagente, a rastreabilidade precisa se manter através das transferências entre agentes.

Releio essa lista e ela soa familiar por uma razão.

Logs estruturados com retenção. Documentação técnica antes do deploy. Rastreabilidade ao longo de pipelines. Ponto de intervenção humana antes de ações irreversíveis. São os mesmos requisitos que engenharia de software sólida já defendia por razões operacionais, independente de qualquer lei. A especificação técnica que o Artigo 11 chama de "documentação prévia ao deploy" é o mesmo artefato que spec-driven development produz como pré-condição para a geração de código. A trilha de auditoria do Artigo 12 é o log que qualquer arquitetura agentic deveria manter por design.

A lei não inventou boas práticas de engenharia. O que ela fez foi tornar visível a diferença entre quem as praticava e quem não praticava. A Ani Galstian, escrevendo sobre o impacto prático da regulação para times de desenvolvimento, coloca diretamente: times que adotaram spec-driven development já produzem os artefatos que o Artigo 11 exige.

O sistema operacional que os agentes não tinham

Em 2 de abril, a Microsoft publicou o Agent Governance Toolkit, projeto open source sob licença MIT. Imran Siddique, principal engineering manager da empresa, descreveu o problema central em termos que qualquer engenheiro de sistemas reconhece: múltiplos programas não confiáveis compartilhando recursos, tomando decisões e interagindo com o mundo externo.

A solução que o toolkit propõe é análoga ao que sistemas operacionais fazem por programas. Sete pacotes independentes, disponíveis em Python, TypeScript, Rust, Go e .NET: um motor de políticas que intercepta ações dos agentes com latência abaixo de 0,1ms; identidade criptográfica entre agentes; circuit breakers que interrompem execução quando o agente excede limiares de falha; verificação automatizada de conformidade regulatória; trilha de auditoria estruturada.

A analogia com o kernel de SO não é decorativa. Um sistema operacional existe porque programas rodando em modo de usuário precisam de uma camada que aplique as regras do sistema sem depender de que cada programa as respeite voluntariamente. Agentes autônomos têm o mesmo problema. A governança que depende de cada agente se comportar bem não escala para 40% dos aplicativos empresariais.

O que o toolkit representa é o reconhecimento de que a camada de governança precisa ser externa aos agentes, não embutida em cada um. É uma separação de responsabilidades que quem trabalhou com service mesh ou com plataformas internas vai reconhecer imediatamente.

O registro que deveria ter existido

A Zylos propõe como primeiro passo concreto o que chama de Agent Registry: para cada agente em produção, documentar quem o autorizou, qual o escopo de autoridade, quais sistemas ele pode acessar e quando esse registro deve ser revisado. Não é uma formalidade. É a base sem a qual qualquer outra prática de governança fica sem fundação.

Na minha leitura, o registro de agentes para a era agentic ocupa o papel que o inventário de dependências ocupou quando a segurança de supply chain virou prioridade. Você não consegue aplicar política de controle sobre o que não sabe que existe. E os dados de agosto mostram que a maioria das organizações não sabe que boa parte dos seus agentes existe.

A lei de 2 de agosto não criou esse problema. Ela tornou caro o que antes era apenas arriscado. Times que já praticavam spec-driven development, mantinham trilhas de auditoria e estruturavam plataformas com observabilidade nativa estão, em boa parte, em posição de compliance sem terem precisado mudar nada por causa da regulação. Times que priorizaram velocidade de deployment sobre visibilidade têm agora uma conta com data e valor.

Referências