Ferramentas, permissões e limites

O módulo 1 estabeleceu que um agente decide sozinho seu próprio caminho de execução. Este módulo trata da consequência direta disso: se o sistema escolhe o que fazer, você precisa decidir, com antecedência, o que ele pode fazer — porque não há mais um roteiro fixo para revisar antes de cada ação.

Essa é a diferença central em relação a um fluxo automatizado: no fluxo, o limite é o próprio roteiro. No agente, o limite precisa ser imposto separadamente, porque o roteiro não existe até o momento da execução.

Ferramentas: o que o agente pode chamar

Um agente age através de ferramentas — funções específicas que ele pode invocar, como consultar um sistema, enviar uma mensagem, escrever em um banco de dados. A lista de ferramentas disponíveis é, na prática, a lista de tudo que o agente é capaz de fazer no mundo real.

Regra de desenho: dê ao agente exatamente as ferramentas necessárias para o objetivo declarado, nem uma a mais. Uma ferramenta "por via das dúvidas, pode ser útil depois" é uma porta aberta para uma ação que ninguém previu — e o módulo 1 já estabeleceu que, num agente, ações não previstas são exatamente o risco em jogo.

Permissões: o que cada ferramenta pode fazer, dentro dela mesma

Ter acesso a uma ferramenta não deveria significar acesso irrestrito a tudo que ela é capaz de fazer. O mesmo princípio de acesso mínimo se aplica dentro de cada ferramenta:

• Uma ferramenta de banco de dados pode ter permissão só de leitura, nunca de escrita, se o objetivo do agente é responder perguntas, não alterar registros.
• Uma ferramenta de envio de mensagem pode ter permissão de rascunhar, mas não de enviar — deixando o envio final como ponto de aprovação humana, o mesmo conceito do módulo 1 do curso de Automação com IA.
• Uma ferramenta de execução de código pode rodar em um ambiente isolado, sem acesso a sistemas de produção reais.

Cada permissão concedida deveria responder a uma pergunta simples: se o agente decidir usar isso do jeito mais arriscado possível dentro do permitido, o resultado ainda é aceitável? Se a resposta for não, a permissão está ampla demais.

Limites: quanto o agente pode fazer antes de parar

Ferramentas e permissões controlam o que o agente pode fazer. Limites controlam quanto, numa única execução:

• Limite de etapas. Um número máximo de ações que o agente pode tomar antes de parar e pedir orientação, mesmo que ainda não tenha alcançado o objetivo. Evita um agente preso em um ciclo, tentando a mesma abordagem repetidamente sem perceber que não está funcionando.
• Limite de escopo. Fronteiras explícitas do que conta como dentro do objetivo — por exemplo, um agente de atendimento autorizado a resolver dúvidas sobre um produto específico, não qualquer assunto que o cliente trouxer na conversa.
• Limite de reversibilidade. Ações que não podem ser desfeitas (enviar algo publicamente, excluir um dado, fechar uma transação) exigem aprovação humana explícita antes de executar, independentemente de quão bem o agente esteja se saindo até aquele ponto. Isso não é desconfiança do sistema — é reconhecer que um erro nesse tipo de ação custa mais do que a economia de tempo de automatizar.

Um exemplo de configuração completa

Um agente de triagem de suporte técnico, com ferramentas e limites definidos:

• Ferramentas: consultar base de conhecimento (leitura), consultar histórico do cliente (leitura), rascunhar resposta (escrita em rascunho, não em envio).
• Permissões: sem acesso a sistemas de faturamento, sem permissão de enviar mensagem diretamente ao cliente.
• Limites: máximo de 8 etapas por atendimento antes de escalar para um humano; escopo restrito a dúvidas técnicas do produto, com transferência automática para humano em qualquer outro assunto; toda resposta de rascunho passa por aprovação antes de ser enviada.

Repare que o agente ainda decide sozinho como investigar o problema dentro desses limites — a autonomia continua existindo onde o risco é administrável, e é retirada exatamente onde o custo de errar seria alto.

Exercício

Pegue uma tarefa que você identificou, no módulo 1, como candidata real a agente (não a fluxo). Liste as ferramentas mínimas necessárias, as permissões dentro de cada uma, e os três tipos de limite (etapas, escopo, reversibilidade) que você aplicaria antes de colocar esse agente em produção.

O que fica

• Ferramentas definem o que o agente pode fazer no mundo; conceda só as necessárias para o objetivo declarado.
• Permissões controlam o que cada ferramenta pode fazer por dentro — leitura em vez de escrita, rascunho em vez de envio, sempre que possível.
• Três tipos de limite por execução: número máximo de etapas, escopo do objetivo, e aprovação humana obrigatória para ações irreversíveis.
• A autonomia do agente continua existindo onde o risco é administrável — ela é retirada especificamente onde o custo de um erro seria alto.