Une créatrice de contenu originaire de Perpignan (Pyrénées-Orientales) a découvert qu’une de ses vidéos avait été modifiée par une intelligence artificielle pour promouvoir un produit à son insu sur Instagram. Un phénomène en pleine expansion qui interroge sur les risques de manipulation et d’usurpation d’identité en ligne.
C’est une nouvelle réalité qui peut faire froid dans le dos. Grâce à l’intelligence artificielle (IA) générative, il est dorénavant possible de créer des vidéos, à partir de rien, plus vraies que nature. Mais cette technologie permet également de modifier et de détourner de vraies vidéos.
C’est ce qui est arrivé à Marie Gioan, connue sur les réseaux sociaux sous le nom cjustemarie et suivie par près de 300 000 personnes. Cette influenceuse et créatrice de contenu perpignanaise, qui partage des conseils autour de l’écologie et de la parentalité, a découvert qu’une de ses stories (des vidéos éphémères publiées sur Instagram) avait été intégralement détournée par une IA afin de faire la promotion d’un produit de beauté dont elle n’avait jamais entendu parler.
Dans cette publicité, on peut la voir s’appliquer une crème sur le visage d’une marque qu’elle ne connaît pas. Dedans, la vidéo originale de la créatrice a été reprise, mais son corps et ses gestes ont été changés. Des bijoux ou encore de faux ongles ont été ajoutés, son apparence a été modifiée pour la rendre plus jeune et une voix générée par IA a également été ajoutée pour lui faire tenir des propos qu’elle n’a jamais prononcés.
À lire aussi :
Randonnée et IA : le parc national des Cévennes alerte sur une confiance “risquée” envers ChatGPT
“Ce n’est pas ma voix, ce n’est pas moi”
Quand une de ses abonnées lui envoie la publicité en lui demandant si c’était bien elle, Marie Gioan ne comprend pas ce qu’elle voit dans un premier temps. “J’ai été choquée car j’ai cru que c’était moi”, témoigne l’influenceuse à La Dépêche. Elle réalise ensuite qu’il s’agit d’un montage exploitant son image et sa voix.
“Ce n’est pas ma voix, ce n’est pas moi”, insiste-t-elle en rappelant qu’elle ne fait de la publicité que pour des “marques cosmétiques éthiques”, alors que dans ce cas “c’est une entreprise qui n’existe pas et qui fait du dropshipping”. Une pratique où certains vendeurs sur internet présentent des produits comme étant de qualité, alors qu’ils proviennent en réalité de fournisseurs étrangers à bas coût.
À lire aussi :
Cette chanteuse, relayée par plusieurs stars et qui cartonne sur les plateformes d’écoute, s’avère finalement être une IA
La créatrice dit avoir mesuré rapidement l’ampleur du problème. “Si Marie en parle, je lui fais confiance et j’achète sans même vérifier”, imagine-t-elle à propos des réactions possibles de ses abonnés face à cette publicité. Elle s’inquiète surtout de l’utilisation détournée de son image à des fins commerciales, mais aussi des risques plus larges. “Ils auraient pu me mettre dans un film X ou s’en servir pour arnaquer mes parents. C’est ultra-flippant”, ajoute-t-elle.
Instagram ne supprime pas la publicité
Malgré les signalements effectués auprès de la plateforme par une quarantaine de ses abonnées, la publicité n’a pas été retirée. “La réponse que j’ai, c’est que ça ne viole pas les règles d’Instagram”, explique-t-elle, évoquant une forme d’impuissance face aux outils de modération automatisés.
Elle envisage désormais de se tourner vers les autorités. “Par acquit de conscience, je vais aller à la gendarmerie”, confie-t-elle, tout en reconnaissant que les recours restent flous face à ces nouvelles formes de manipulation numérique. Marie Gioan souhaite également alerter sur une dérive qui se démocratise, à mesure que les outils d’IA deviennent plus accessibles et plus performants.
“Ma plus grosse peur, c’est l’utilisation des images des enfants”, souligne-t-elle. L’influenceuse conseille de faire particulièrement attention aux images qu’on partage de notre vie familiale. Elle rappelle que les photos et les vidéos, même publiées dans un cadre privé ou éphémère, peuvent être récupérées et détournées grâce à l’IA. Avec ces nouveaux outils d’intelligence artificielle, ces contenus peuvent être modifiés et utilisés à des fins malveillantes, sans que l’on en ait conscience.