Ferramentas · · .md (Markdown)
Hugging Face abre o SafeAgents, proxy que barra tool call suspeita antes do agente rodar
Fica entre o agente de código e o servidor do modelo, confere cada chamada de ferramenta e bloqueia comando que manda dado pra endereço que ninguém citou na conversa. Licença Apache 2.0.
O Hugging Face publicou o SafeAgents, um proxy que roda na sua máquina, entre o agente de código e a API do modelo. Cada tool call passa por três etapas antes de o agente executar: bloqueio de ferramenta que não foi declarada e de endereço de internet que não aparece em nenhum ponto da conversa; os detectores do atif-scan (leitura de /proc/1/environ, token de Kubernetes, curl --noproxy); e, opcionalmente, um modelo juiz que só vê o pedido do usuário, a chamada e os alertas.
Funciona com Claude Code, Hermes, Pi e qualquer agente que aceite trocar a URL base, falando a API do Chat Completions da OpenAI ou a Messages da Anthropic. O README admite os limites: não pega URL montada em tempo de execução nem domínio sem https://, e ainda não suporta a Responses API da OpenAI.
Por que importaÉ um freio aberto que não depende do fornecedor do agente e pega justamente o caso de agente mandando dado pra site que ninguém citou. Não substitui dar pouco acesso, mas custa uns 10 a 20 ms por chamada.
Com o uv instalado, clone o repositório, rode uv sync e depois uv run safeagents --upstream https://api.anthropic.com --log-only. Abra o Claude Code com ANTHROPIC_BASE_URL=http://127.0.0.1:8787 claude, trabalhe um pouco e veja em uv run safeagents inspect o que teria sido barrado.
Fontes: Hugging Face · github.com · github.com
Mais notícias do dia
Ferramentas
Android Studio passa a rodar Claude, Codex e mais de 40 agentes de código dentro da IDE
O Android Studio Rabbit 2 estável traz o Bring Your Own Agent: agentes compatíveis com o protocolo ACP usam emulador, build e Logcat, além das skills oficiais do Android.
Brasil
Google vai pôr anúncios no Modo IA do Brasil ainda em 2026
Os anúncios na busca conversacional do Google chegam a 10 países agora, e o Brasil, o México e o Reino Unido entram na lista do quarto trimestre, ainda sem data exata.
Modelos
Mistral abre os pesos do Large 4, modelo de 1 trilhão de parâmetros feito pra código
O maior modelo da Mistral sai da prévia com pesos abertos, licença MIT modificada e API a US$ 0,70 por milhão de tokens de entrada. Segundo a empresa, é o melhor aberto em código.
Agentes
Agente com o login de um prestador da Accenture vazou senhas de sistema do Pentágono, diz WIRED
O funcionário ligou o Claude Code pessoal a um sistema do Departamento de Defesa e deu a ele o próprio login. O agente rodou dois meses e mandou credenciais pra um site de fora. A Accenture nega.
Pesquisa
YC solta 50 agentes no Minecraft, e eles montam um governo e passam a ter medo da noite
No teste da YC Labs, 50 agentes GPT-6.1 Sol criaram regras, licenças e um líder pela ordem da lista. Em Bed Wars, o GPT ganhou do Claude Opus 5.5 por 6 a 3. O harness é aberto.
Receba o resumo da semana por e-mail
Toda sexta, as maiores notícias da semana.
grátis · sem spam · cancele com um clique