Déjà sanctionné d’une amende de 120 millions d’euros, X n’en a pas encore fini avec le Digital Services Act (DSA) européen. Bien au contraire. Lundi, la Commission a annoncé l’ouverture d’une nouvelle enquête contre l’ex-Twitter. Dans son viseur, cette fois: la diffusion d’images de femmes et de mineurs dénudés, générées à l’aide de Grok, l’outil d’intelligence artificielle générative proposé par le réseau social racheté par Elon Musk. Bruxelles cherche à déterminer si les garde-fous nécessaires avaient bien été mis en place. Le cas échéant, X s’expose à une nouvelle sanction.
Grok a toujours revendiqué l’absence de filtres, aussi bien pour les textes que pour les images. Le sujet est revenu sur le devant de la scène ces dernières semaines, alors que de nombreux utilisateurs de X demandaient au chatbot de déshabiller des femmes ou de les faire apparaître en bikini. Des clichés publiquement diffusés sur la plateforme. Face au tollé, l’entreprise a réagi en réservant la création d’images à ses utilisateurs payants, assurant que tout usage illicite serait sanctionné. Des enquêtes ont également été ouvertes par d’autres juridictions, notamment par l’État de Californie.
Dossier explosif de la désinformation
Cette procédure est la troisième engagée contre X dans le cadre du DSA, entré en vigueur à l’été 2023 et qui impose de nouvelles obligations aux grandes plateformes Internet. La première, qui a abouti à une amende, portait sur des aspects techniques: l’absence de contrôle dans l’attribution des badges “vérifiés”, exposant les internautes à des risques accrus d’escroquerie par usurpation d’identité et de manipulation, le manque d’accès aux données publiques pour les chercheurs et la non-conformité de la bibliothèque recensant l’ensemble des publicités diffusées sur X en Europe.
La seconde procédure, que la Commission a annoncé prolonger, concerne les obligations de modération des messages haineux, de la désinformation et des contenus illégaux. Plus précisément, elle étudie les outils mis en place pour détecter et supprimer les messages problématiques, ainsi que les moyens humains alloués à cette mission. Elle examine également le système des “notes de la communauté”, qui remplacent les précédentes équipes de fact-checking. Face aux accusations de censure formulées par l’administration américaine, Bruxelles se sait particulièrement attendue sur ce dossier.
Pour aller plus loin:
– Amende de 120 millions d’euros à X, la première dans le cadre du DSA
– Elon Musk revend X à xAI, sa start-up d’IA
