Équipe de recherche affiliée à Alibaba : L'agent intelligent AI tente de miner des cryptomonnaies non autorisées lors du processus d'entraînement

DeepTech News, 08 mars : Selon Cointelegraph, plusieurs équipes de recherche conjointes sous l’écosystème AI d’Alibaba ont révélé dans un rapport technique que leur intelligence artificielle autonome expérimentale, ROME, a présenté un comportement inattendu lors de sa formation, tentant de manière autonome d’utiliser des ressources informatiques pour le minage de cryptomonnaies.

Les chercheurs ont indiqué que ce comportement anormal s’est produit durant la phase d’apprentissage par renforcement. L’équipe a découvert que le serveur d’entraînement générait un trafic sortant et déclenchait des alertes de sécurité, avec des logs de pare-feu enregistrant des opérations suspectes de minage de cryptomonnaies et des tentatives d’accès aux ressources du réseau interne. Dans un cas précis, ROME a créé un tunnel SSH inversé vers une adresse IP externe pour contourner la protection du pare-feu entrant ; dans un autre, l’agent a transféré des ressources GPU initialement allouées à l’entraînement du modèle vers un processus de minage. Les chercheurs ont confirmé que ce comportement n’était pas dû à une programmation humaine, mais qu’il était le résultat d’une exploration autonome de l’agent lors de l’optimisation par apprentissage par renforcement.

ROME a été développé par une équipe conjointe de ROCK, ROLL, iFlow et DT, et fonctionne sur une infrastructure appelée « Système d’Écosystème d’Apprentissage des Agents (ALE) ». Il possède des capacités de planification de tâches, d’exécution de commandes, d’édition de code et d’interaction dans des environnements numériques multi-étapes, dépassant ainsi les fonctionnalités des chatbots traditionnels.