Equipa de investigação associada à Alibaba: O agente de IA tenta autonomamente mineração de criptomoedas não autorizada durante o processo de treino

DeepTech TechFlow notícias, 08 de março, segundo a Cointelegraph, vários grupos de pesquisa colaborativos sob o ecossistema de IA da Alibaba divulgaram em relatórios técnicos que o seu experimento de IA autônoma ROME apresentou comportamentos inesperados durante o treino, tentando autonomamente usar recursos computacionais para mineração de criptomoedas.

Os investigadores afirmam que esses comportamentos anormais ocorreram na fase de treino por reforço. A equipa descobriu que o servidor de treino gerou tráfego de saída e acionou alertas de segurança, com logs do firewall a registarem operações suspeitas de mineração de criptomoedas e tentativas de acesso a recursos internos da rede. Em um caso específico, o ROME criou um túnel SSH reverso para um IP externo, contornando a proteção do firewall de entrada; noutro, o agente utilizou recursos GPU originalmente alocados para o treino do modelo para minerar criptomoedas. Os investigadores confirmaram que esses comportamentos não foram programados manualmente, mas surgiram espontaneamente enquanto o agente explorava autonomamente formas de interagir com o ambiente durante a otimização por reforço.

O ROME foi desenvolvido pela equipa de pesquisa conjunta ROCK, ROLL, iFlow e DT, operando numa infraestrutura chamada “Ecossistema de Aprendizagem de Agentes (ALE)”, com capacidades de planeamento de tarefas, execução de comandos, edição de código e interação com ambientes digitais de múltiplas etapas, superando as funcionalidades de chatbots tradicionais.