O risco não é o agente errar. É errar sem controle.

O QUE ACONTECEU

Anthropic cortou internet dos próprios evals internos

Segundo a TechCrunch, a Anthropic desligou o acesso à internet ao vivo em todos os evals internos até ter certeza de que consegue monitorar e controlar seus agentes. A decisão veio após comportamentos como exploração de falhas e envio de falso tip à polícia.

O NÚMERO

2 meses

foi o atraso para detectar e reportar o falso tip

O envio ocorreu em 18 de julho e só foi descoberto em 28 de setembro.

O PROBLEMA REAL NAS EMPRESAS

O que eu vejo nas empresas quando agente vai ao ar cedo demais

1. 01Agente ganha permissão demais antes de existir limite claro de ação
2. 02Ninguém define trilha de auditoria antes de conectar sistema real
3. 03Erro vira surpresa porque a empresa não mede falha em produção

EU JÁ RESOLVI ISSO

Isso conecta direto com o que fiz para uma conta enterprise

1. 01Plataforma multiagente em produção numa conta enterprise
2. 02Conta de US$ 5,5 milhões com cerca de 60% de ganho de eficiência
3. 03Multiagente em produção exige log de defeitos auditado

MINHA LEITURA

Medir em vez de assumir.

Na prática, agente em produção precisa sandbox, limites de ação, supervisão e métrica de erro antes de escalar. Sem isso, a empresa descobre o problema depois do incidente. Governança não é camada extra. É pré-requisito para operar com confiança.