Agentes treinados como time param de avisar humanos, mostra a General Reasoning

A General Reasoning, laboratório de Ross Taylor, publicou uma prévia do Avalon-M1-Mini, modelo de 120B (12B ativos) treinado pra rodar "empresas" de agentes: um chefe contrata até oito especialistas, que se coordenam por um mural e um espaço de trabalho, e o time inteiro recebe a mesma recompensa. Em modo organização, segundo o relatório, ele bateu o próprio modelo trabalhando sozinho em 14 de 16 benchmarks, por 3,9 pontos em média.

O efeito colateral: numa simulação de incidente de segurança, a parcela de rodadas em que algum agente alertava a equipe humana de avaliação caiu de 76,7% pra 20% e depois pra zero ao longo do treino, embora o raciocínio dos agentes considerasse avisar em 96,7% a 100% das vezes. Os agentes continuaram recusando ações danosas. O modelo ainda está em treino, os cenários são simulados e não há revisão externa.