La police française perquisitionne le bureau de X à Paris dans le cadre d'une enquête sur Grok AI et du contenu illégal

En résumé

• Les enquêteurs français ont perquisitionné les bureaux de X à Paris dans le cadre d’une enquête sur des contenus illégaux et des pratiques d’algorithmes.
• L’affaire s’est étendue après des plaintes selon lesquelles Grok aurait été utilisé pour générer des images sexuelles non consensuelles, y compris celles d’enfants.
• Les régulateurs britanniques ont ouvert des enquêtes parallèles en vertu des lois sur la protection des données et la sécurité en ligne.

Les autorités françaises ont perquisitionné mardi les bureaux paris de la plateforme de médias sociaux X dans le cadre d’une enquête criminelle élargie sur des allégations de pornographie enfantine liée au chatbot IA de la plateforme, Grok. Selon un rapport de Sky News, la perquisition a été menée par la cellule spécialisée en cybercriminalité de la France en coordination avec Europol. Les procureurs ont déclaré que le propriétaire de X, Elon Musk, a été convoqué pour un interrogatoire, ainsi que plusieurs dirigeants actuels et anciens, dont l’ancienne directrice générale Linda Yaccarino. « L’enquête concerne une série d’infractions pénales suspectées liées au fonctionnement et à l’utilisation de la plateforme, notamment la diffusion de contenus illégaux et d’autres formes d’activité criminelle en ligne », a déclaré Europol dans un communiqué. « Europol reste prêt à continuer de soutenir les autorités françaises au fur et à mesure de l’avancement de l’enquête. »

 L’enquête sur Grok, lancée le mois dernier, se concentre sur des allégations selon lesquelles X aurait été complice dans la distribution de matériel d’abus sexuel sur des enfants et d’autres contenus illégaux, les autorités affirmant que Grok aurait été utilisé pour générer plus de 23 000 images sexualisées d’enfants. En août dernier, xAI a lancé “Spicy Mode” spécifiquement pour générer du contenu NSFW, y compris une affaire de haut profil impliquant des deepfakes de Taylor Swift. Dans un message publié sur X, le département des Affaires Gouvernementales Mondiales du géant des médias sociaux a nié toute faute, qualifiant la perquisition d’« enquête criminelle politisée sur la manipulation présumée des algorithmes et la prétendue extraction frauduleuse de données. »

« La perquisition orchestrée aujourd’hui renforce notre conviction que cette enquête déforme la loi française, contourne la procédure régulière et met en danger la liberté d’expression », ont-ils écrit. « X s’engage à défendre ses droits fondamentaux et ceux de ses utilisateurs. Nous ne serons pas intimidés par les actions des autorités judiciaires françaises aujourd’hui. » Les groupes de défense des consommateurs soutiennent que lorsque les régulateurs enquêtent sur des développeurs d’IA dont les outils sont utilisés pour créer du contenu illégal, ils devraient examiner si l’entreprise aurait pu raisonnablement anticiper comment ces outils seraient mal utilisés. « Les régulateurs devraient examiner si les choix de conception de l’entreprise ont rendu la mauvaise utilisation illégale prévisible, si les évaluations des risques étaient adéquates, et si des mesures de sécurité ont été testées de manière significative avant le lancement », a déclaré J.B. Branch, défenseur de la responsabilité des grandes entreprises technologiques chez Public Citizen, à Decrypt. « Les plateformes qui profitent d’un déploiement rapide doivent assumer la responsabilité des dommages que ce déploiement engendre. C’est exactement ce qui se passe dans d’autres industries. » Bien que les lois actuelles contre les images sexuelles non consensuelles et le matériel d’abus sexuel sur des enfants restent essentielles, Branch a dit qu’elles n’étaient pas conçues pour une IA capable de « produire en masse des dommages à une vitesse scalable ». « Nous avons besoin d’obligations plus claires et proactives qui obligent les entreprises à prévenir les abus liés à l’IA avant qu’ils ne se produisent, y compris des tests par un régulateur indépendant pouvant mettre à l’épreuve les problèmes avant que les produits d’IA ne soient mis sur le marché », a-t-il déclaré. « Lorsqu’une situation aussi grave se produit, l’outil doit être immédiatement retiré. » Les enquêtes se multiplient Les investigations sur le chatbot se sont désormais étendues à plusieurs juridictions, notamment au Royaume-Uni, dans l’UE, en Inde, en Australie et aux États-Unis. Le même jour où les autorités françaises ont perquisitionné le bureau parisien de X, le Office of the Information Commissioner (ICO) basé au Royaume-Uni a annoncé avoir également ouvert une enquête sur Grok. « Nous avons pris cette mesure suite à des rapports selon lesquels Grok aurait été utilisé pour générer des images sexuelles non consensuelles d’individus, y compris des enfants », a déclaré William Malcolm, directeur exécutif de l’ICO en charge des risques réglementaires et de l’innovation, dans un communiqué. « La création et la circulation de tels contenus suscitent de graves préoccupations en vertu de la loi britannique sur la protection des données et présentent un risque de préjudice potentiel important pour le public. »

Selon Malcolm, ces préoccupations concernent la légalité, l’équité et la transparence du traitement des données personnelles, ainsi que la mise en place de mesures de sécurité appropriées dans la conception et le déploiement de Grok pour empêcher la génération d’images manipulées nuisibles à partir de données personnelles. « Lorsque ces mesures échouent, les individus perdent le contrôle de leurs données personnelles, ce qui les expose à de graves risques », a-t-il écrit. « Examiner ces risques est au cœur du rôle de l’ICO dans la protection des droits des personnes et la responsabilisation des organisations lors de la conception et du déploiement de la technologie IA. » Les actions en Europe sont les dernières ciblant X et Grok, le mois dernier, le régulateur britannique des médias, Ofcom, a ouvert une enquête pour déterminer si X a violé ses obligations en vertu de la loi sur la sécurité en ligne. En janvier, suite à la réaction internationale contre Grok, xAI a déclaré avoir limité les capacités de modification d’image du chatbot et bloqué certains prompts liés à la génération d’images de personnes. La perquisition à Paris intervient un jour après l’annonce par Musk que SpaceX a acquis xAI, la startup d’intelligence artificielle qui avait précédemment absorbé X, plaçant la plateforme de médias sociaux et ses systèmes d’IA sous l’égide de SpaceX alors que la surveillance réglementaire s’intensifie. « Nous sommes conscients que X ou Grok proposent désormais un ‘Spicy Mode’ montrant du contenu sexuel explicite avec certains résultats générés à partir d’images enfantines », a déclaré Thomas Regnier, porte-parole de la Commission européenne lors d’une récente conférence de presse à Bruxelles. « Ce n’est pas épicé. C’est illégal. C’est révoltant. C’est dégoûtant. Cela n’a pas sa place en Europe. » SpaceX et xAI n’ont pas immédiatement répondu aux demandes de commentaire de Decrypt.