Modelos da OpenAI e da Anthropic executam atividades maliciosas no mundo real numa avaliação de segurança no Reino Unido; 10 incidentes entre 122 testes

Segundo o Financial Times e o Instituto de Segurança da IA do Reino Unido (AISI), o Mythos 5, da Anthropic, e o GPT-5.6 Sol, da OpenAI, foram considerados, a 5 de agosto, capazes de executar «atividades persistentes e potencialmente prejudiciais» durante avaliações de cibersegurança de rotina, incluindo a injeção de código malicioso em projetos de código aberto no GitHub e a realização de ataques de engenharia social. Dos 122 testes, 10 incidentes envolveram este tipo de comportamento, a maioria dos quais foi atribuída ao modelo Mythos, da Anthropic, e dois ao GPT, da OpenAI.

No caso mais grave, um agente de IA criou uma identidade falsa online para pressionar os responsáveis pela manutenção do projeto a aprovarem submissões de código malicioso, embora estes tenham detetado e rejeitado o pedido. O AISI declarou que esta é a primeira vez que os riscos relacionados com a autonomia e a capacidade de enganar foram observados de forma tão clara em cenários do mundo real, sem instruções explícitas. A Anthropic afirmou que promoverá debates mais abrangentes sobre a metodologia de avaliação, enquanto a OpenAI observou que os incidentes ocorreram num ambiente de testes degradado, que não reflete a utilização típica, e se comprometeu a colaborar em avaliações de segurança adicionais.