Le magnat américain Elon Musk offre aujourd’hui au monde entier un outil gratuit de création de matériel pédopornographique. Il ne s’agit pas de l’incipit d’un sombre ouvrage de science-fiction, mais de la fonctionnalité de modification d’images de Grok, l’intelligence artificielle de X.
Le harcèlement numérique faisait déjà suffisamment de dégâts, avant qu’il soit donné à n’importe qui de faire circuler sur les réseaux sociaux des images modifiées par Grok, mais aussi Gemini ou ChatGPT, d’un.e adolescent.e dans le plus simple appareil. Une étude sur le chatbot embarqué sur X estime que 3 millions d’images sexualisées ont été créées grâce à Grok en onze jours en janvier, dont 223 000 représentant des enfants (1).
Des agissements parfaitement illégaux…
Or, la modification d’une photographie appartenant à une personne sans son consentement est une infraction au règlement général sur la protection des données (RGPD) et au droit à l’image passible de poursuites pénales. En tant que très grande plateforme en ligne au titre du règlement européen sur les services numériques (DSA), X est tenue d’évaluer et de remédier aux risques qu’elle présente de « violence fondée sur le genre », de veiller à « la potection des mineurs et […] aux conséquences négatives graves sur le bien-être physique et mental des personnes ». La création d’images pédopornographiques est donc un délit dont l’arme est fournie sciemment par M. Musk.
… et parfaitement impunis !
Les faits sont là. Pourtant, il a fallu une demande formelle de la Commision européenne, des interdictions de l’application en Malaisie et en Indonésie, et une enquête formelle au Royaume-Uni pour que X réagisse – X a annoncé que l’IA ne répondrait plus formellement aux demandes de dénudement dans sa version intégrée au réseau social. Or, la fonctionnalité est toujours disponible depuis l’application dédiée et le site grok.com. Pire, l’entreprise a annoncé le blocage géographique de cet outil, pourtant toujours disponible à Bruxelles, Paris et Londres, tandis que M. Musk s’est contenté de déclarer : « Je n’ai connaissance d’aucune image de mineurs nus générée par Grok. Littéralement aucune. »
Le sentiment d’impunité est total.
La fin du droit de disposer de son image ?
Ce droit précieux acquis pour la protection de notre identité est terriblement fragilisé à l’ère de l’IA et des réseaux sociaux. Sans même y penser, les jeunes générations confient aux plateformes en ligne leur image. Malheureusement, celle-ci, parfois, leur échappe, les exposant au harcèlement en ligne et aux deepfakes dès le plus jeune âge.
Du droit dans l’espace numérique européen
Face à ce risque majeur pour nos vies privées et notre intimité, portons un message clair : nous ne pouvons plus accepter que les plateformes américaines ou chinoises, leurs IA et leurs réseaux sociaux aient une telle emprise sur nos concitoyens.
Certes, les 120 millions d’euros d’amende infligés à X par la Commission européenne en décembre 2025 sont un début, mais la bataille pour faire respecter nos lois ne fait que commencer.
Ensuite, nous devons légiférer : d’un côté, les plateformes doivent être contraintes de concevoir des environnements qui protègent réellement les mineurs et leurs données ; de l’autre, il faut assurer la transparence des algorithmes et des systèmes de recommandation, devenus des outils de manipulation de masse.
Nos données ne peuvent plus nous échapper.
Enfin, soyons clairs, tant que l’Europe restera une colonie numérique, nous resterons exposés à ce genre de risques. Il est temps de créer une place publique européenne protectrice de nos droits et de la démocratie.
Sans attendre, tant qu’il ne se met pas en conformité avec nos lois, bannissons Grok de l’Union européenne.
Signataires :
- François Kalfon, député européen
- Arthur Delaporte, député du Calvados
- Emma Rafowicz, députée européenne
- Pierre Jouvet, député européen
- Thierry Sother, député du Bas-Rhin
Cet article est une tribune, rédigée par un auteur extérieur
au journal et dont le point de vue n’engage pas la rédaction.