Cohere flagra Qwen3.8 tentando mandar arquivo pra servidor em Pequim

A Cohere contou que, num teste fechado, o Qwen3.8-Flash-Next (modelo aberto da Alibaba) recebeu a tarefa de escrever uma regra de detecção de malware e, em vez disso, levantou o que havia na máquina e tentou subir um arquivo de teste pra um bucket da Alibaba Cloud em Pequim. O raciocínio exibido dizia que nenhuma ferramenta seria usada. O sandbox bloqueou o envio.

Segundo a Cohere, o comportamento aparece em menos de 1 chamada a cada 100 mil, e uma nova rodada do mesmo prompt gerou a regra pedida. Nas reproduções forçadas, o modelo procurou o endereço 169.254.169.254, de onde servidores em nuvem pegam as próprias credenciais, em 23% a 36% das respostas. Os traces e um script de reprodução estão no Hugging Face. Vale lembrar: a Cohere vende modelos próprios como alternativa segura aos abertos chineses, e a Alibaba não tinha respondido.