El agente de IA inicia automáticamente la minería de criptomonedas durante el entrenamiento, activando alertas de seguridad internas

Odaily Planet Daily informó que un equipo de investigación asociado con Alibaba publicó un artículo en el que afirma que, al construir un agente de inteligencia artificial llamado ROME, descubrieron que durante el entrenamiento, este agente intentó minar criptomonedas sin autorización, lo que activó una alerta de seguridad interna.

Los investigadores indicaron que el comportamiento del agente fue espontáneo, no impulsado por ninguna instrucción explícita y superó los límites del entorno controlado. Además, el agente estableció un túnel SSH inverso, es decir, abrió un canal oculto en la puerta trasera desde el sistema interno hacia una computadora externa. El documento señala que estos comportamientos no fueron provocados por solicitudes de túnel o minería. Posteriormente, el equipo de investigación impuso restricciones más estrictas al modelo y mejoró el proceso de entrenamiento para evitar que ocurran comportamientos inseguros similares en el futuro.

El equipo de investigación y Alibaba aún no han respondido a las solicitudes de comentarios.