Protegendo Agentes e Ferramentas

Avançado

What you'll learn

Aplicar o privilégio mínimo — dar a um agente apenas o acesso que seu trabalho exige
Reconhecer o problema do delegado confuso: um agente toma emprestada a sua autoridade
Sobrepor as cinco defesas que reduzem o raio de impacto quando um agente é enganado
Decidir quais ações exigem um humano no circuito
Validar as entradas das ferramentas para que um argumento ruim ou manipulado não possa ser executado

No momento em que uma IA pode executar ações (chamar ferramentas, rodar código, acessar APIs), ela herda um modelo de segurança. O objetivo não é tornar o modelo impossível de enganar — é garantir que mesmo que seja enganado, ele não possa causar muito dano.

O princípio central: privilégio mínimo

Dê a um agente o acesso mínimo que seu trabalho exige, nada além disso.

Um resumidor de documentos precisa de leitura, não de escrita ou rede.
Um revisor precisa ler código e postar um comentário — não fazer push ou deploy.
Delimite ferramentas, chaves de API e acesso a arquivos por tarefa. Um agente com escopo restrito que sofre uma injeção só pode causar dano restrito.

O problema do delegado confuso

Um agente muitas vezes age com a sua autoridade (seus tokens, suas sessões). Se uma entrada controlada por um atacante o direciona, o atacante toma emprestados os seus privilégios — um "delegado confuso". Defesa: não dê ao agente autoridade ambiente da qual ele não precisa e exija credenciais explícitas e com escopo definido para ferramentas sensíveis.

Camadas de defesa

Empilhe-as — nenhuma isolada é suficiente. Cada camada assume que as acima dela podem falhar.

Guided walkthrough1 of 5

Rode código e operações de arquivo em contêineres ou diretórios efêmeros sem acesso ao sistema mais amplo ou a segredos. Se o agente for enganado, ele brinca dentro de uma caixa.

Coloque um allowlist por escrito

"Colocar em allowlist a superfície perigosa" é fácil de aprovar com a cabeça e fácil de pular. No Claude Code é concreto: um settings.json que permite o conjunto restrito de comandos e domínios de que a tarefa precisa e nega o restante. Comece restritivo e amplie apenas quando uma tarefa real ficar bloqueada.

Um bloco de permissões de privilégio mínimo do Claude Code

{
"permissions": {
  "allow": [
    "Read",
    "Edit",
    "Bash(npm test:*)",
    "Bash(npm run build:*)",
    "Bash(git status)",
    "Bash(git diff:*)"
  ],
  "deny": [
    "Bash(git push:*)",
    "Bash(rm:*)",
    "Bash(curl:*)",
    "Read(./.env)",
    "Read(./secrets/**)"
  ]
}
}

A lista deny prevalece sobre allow, então bloquear .env e secrets/** se mantém mesmo que um Read amplo seja concedido. Consulte permissions para a sintaxe completa das regras e a precedência.

Ferramentas têm esquemas — valide-os

As entradas de ferramentas que o modelo produz podem estar erradas ou manipuladas. Valide os argumentos antes de executar e retorne erros como resultados para que o agente se recupere em vez de tentar novamente às cegas.

Treine os termos essenciais

Pressione Enter ou Espaço para virar o cartão. Use as setas esquerda e direita para navegar entre os cartões.Termo exibido.

1 / 5

Teste-se

0/3

O que o princípio do privilégio mínimo pede que você faça ao configurar um agente?
Por que um agente que age com os seus tokens é um risco de 'delegado confuso'?
Em um bloco de permissões do Claude Code, qual entrada impede de forma confiável que o agente leia um arquivo de segredos?

Key takeaways

Privilégio mínimo primeiro: delimite ferramentas, chaves e acesso a arquivos por tarefa para que um agente enganado só possa causar dano restrito
Um agente age com a sua autoridade — não lhe entregue privilégios ambientes de que ele não precisa (o problema do delegado confuso)
Empilhe as cinco camadas: sandbox, allowlist, humano no circuito, separar zonas de confiança, registrar e revisar
No Claude Code, as regras deny vencem as regras allow — bloqueie explicitamente os caminhos .env e de segredos
Valide os argumentos das ferramentas antes de executar e retorne erros como resultados para que o agente se recupere em vez de tentar novamente às cegas

O princípio central: privilégio mínimo​

O problema do delegado confuso​

Camadas de defesa​

Coloque um allowlist por escrito​