Os agentes autônomos chegaram. Segurança e compliance precisam recebê-los na porta

Por dois anos, a maioria das empresas conheceu a IA como uma janela de chat: uma pessoa pergunta, o modelo responde e a pessoa decide o que fazer. Isso está mudando rápido. As grandes plataformas de IA já oferecem agentes sempre ativos que continuam trabalhando em direção a um objetivo depois que a conversa termina, se conectam a milhares de aplicativos de negócio e só voltam a uma pessoa quando decidem que precisam. Ao mesmo tempo, as empresas estão colocando seus próprios agentes em produção, conectados ao ERP, ao CRM e aos sistemas de pagamento.

Um agente que age por conta própria é outro tipo de software, e faz perguntas diferentes a uma equipe de segurança e a uma equipe de compliance.

O que muda para a segurança

Autoridade sem uma pessoa no circuito. Um agente age com as credenciais que recebeu, a qualquer hora, e a maioria das suas ações nunca é vista por ninguém. A pergunta já não é se uma pessoa vai aprovar um erro. É o que o agente consegue alcançar antes que alguém perceba.

As instruções chegam dentro do conteúdo. Um agente lê documentos, e-mails, páginas da web e as respostas de outras ferramentas. Qualquer um deles pode trazer instruções escritas por outra pessoa, e o agente pode segui-las como se viessem de você. É a injeção de instruções, e ela não precisa que ninguém invada nada. Só precisa que o agente leia algo.

Velocidade e escala. Uma pessoa que comete um erro o comete uma vez. Um agente pode repeti-lo centenas de vezes em poucos minutos, ou espalhá-lo para os outros agentes com quem trabalha.

Os agentes rodam em lugares que você não controla. Um agente sempre ativo de uma plataforma de IA roda nos computadores desse fornecedor. Você não pode instalar nada dentro dele nem ler o que ele faz lá.

O que muda para o compliance

Auditores, reguladores e seguradoras fazem a mesma pergunta quando algo dá errado: o que aconteceu, quem permitiu e se dá para provar. As leis começam a perguntar isso antes. O AI Act da União Europeia, por exemplo, exige que sistemas de IA de alto risco mantenham registros automáticos do que fazem. Frameworks como SOC 2 e ISO 27001 esperam evidência de que o acesso é controlado e de que as mudanças são rastreáveis.

Um agente complica isso de duas formas. Suas ações são muitas e rápidas, então a evidência precisa ser coletada automaticamente. E muitas vezes o único registro é o log do próprio fornecedor, que é a versão dele dos fatos, e não uma evidência que a empresa guarda e pode checar por conta própria.

Uma única porta sob o seu controle

O Excubitor parte de uma posição simples: não dá para tornar um agente confiável pedindo que ele se comporte. O que dá para fazer é decidir o que ele alcança, checar cada ação no momento em que acontece, pará-lo sem a sua cooperação e manter um registro que ninguém consegue reescrever em silêncio.

Para os agentes que você mesmo roda, o Excubitor fica onde o agente age. Cada chamada de ferramenta é checada contra a política do agente antes de ser executada. As conexões de saída são checadas contra os destinos que você permitiu, qualquer que seja a biblioteca que as abra. As chamadas ao modelo são lidas na ida e na volta, então um segredo é recusado antes de sair. Instruções escondidas na descrição ou na resposta de uma ferramenta ficam fora do alcance do agente. Uma execução descontrolada é contida por regra, qualquer pessoa pode congelar um agente e tudo o que é irreversível aguarda uma pessoa identificada.

Para os agentes que rodam na nuvem de um fornecedor, ninguém fora do fornecedor consegue ver o que acontece dentro deles, e não dizemos o contrário. O que uma empresa controla é o que esses agentes alcançam. Coloque o gateway do Excubitor diante dos sistemas que são seus, e cada ação que um agente externo realizar neles é checada antes de ser executada, pode ser parada pela sua equipe e fica assinada no seu registro. A credencial do agente é checada no gateway e nunca repassada, então ele nunca tem as chaves dos sistemas que ficam atrás. Sistemas sensíveis demais para um agente externo ficam fora dos conectores diretos dele.

Evidência para quem pede

Cada ação, cada recusa e cada parada viram um registro encadeado ao anterior e assinado a cada hora. No nosso serviço hospedado, uma entrada individual pode ser provada a um auditor ou a uma seguradora com uma prova curta que eles checam offline, com a nossa chave pública, sem ver o resto do livro de registros. As entradas guardam impressões digitais, não conteúdo, para que a evidência não vire mais uma cópia de dados sensíveis.

Somos cuidadosos com o que isso é e o que não é. O Excubitor não certifica ninguém, e não afirmamos nenhuma correspondência com uma regulação em seu nome. Ele dá aos seus avaliadores evidência que eles podem relacionar aos seus próprios controles, e permite responder à pergunta "o que o agente fez?" com algo mais sólido do que a palavra de um fornecedor.

Por onde começar

Escolha um agente que importa. Escreva o que ele deve poder alcançar e como é o sucesso. Coloque-o atrás do Excubitor por trinta dias, no seu próprio ambiente se os seus dados exigirem, e deixe a sua própria equipe checar os registros com as próprias ferramentas.

Os agentes autônomos vão fazer mais trabalho das empresas a cada trimestre. As que os adotarem mais rápido serão as que conseguem mostrar, a qualquer momento, o que os seus agentes fizeram e que poderiam tê-los parado. Gerenciado com evidência, nunca na base da fé.