Comment les images absurdes générées par l'IA transforment les réseaux sociaux et affectent leurs utilisateurs

Théodore se souvient de la photo ratée générée par IA qui l'avait laissé perplexe.

L'image montrait deux enfants sud-asiatiques, maigres et misérables. Étrangement, malgré leurs traits enfantins, ils arboraient d'épaisses barbes. L'un d'eux n'avait ni mains ni pied. L'autre tenait une pancarte où l'on pouvait lire "C'est mon anniversaire" et demandait un "j'aime".

De façon inexplicable, ils étaient assis au milieu d'une rue passante, sous une pluie torrentielle, avec un gâteau d'anniversaire et des bougies. L'image était manifestement générée par IA. Pourtant, sur Facebook, elle est devenue virale, récoltant près d'un million de "j'aime" et d'émojis cœur.

Soudain, Théodore a eu un déclic.

"J'étais sidéré. Des images absurdes générées par IA pullulaient sur Facebook et avaient un impact énorme sans que personne ne s'en aperçoive. C'était de la folie", raconte cet étudiant parisien de 20 ans.

Il a donc ouvert un compte sur X, intitulé "Insane AI Slop", et a commencé à critiquer et à se moquer des contenus trompeurs.

D'autres l'ont remarqué, et sa boîte de réception a rapidement été inondée de messages proposant des produits prétendument "déchets d'IA".

Des thèmes récurrents ont commencé à émerger : la religion, l'armée ou des enfants défavorisés accomplissant des actions touchantes.

"Les enfants des pays en développement qui réalisent des choses impressionnantes sont toujours populaires, comme cet enfant pauvre d'Afrique construisant une statue incroyable avec des déchets. Je pense que ça plaît aux gens, alors les créateurs se disent : 'super, continuons comme ça' !", explique Théodore.

Le compte de Théodore a rapidement dépassé les 133 000 abonnés.

Le déferlement de contenus de piètre qualité générés par l'IA - qu'il définit comme des vidéos et des images fausses, peu convaincantes et créées à la hâte - est désormais incontrôlable.

Les entreprises technologiques ont adopté l'IA et certaines affirment commencer à lutter contre certaines formes de ces contenus, même si les réseaux sociaux semblent encore en être saturés.

En seulement quelques années, l'expérience des réseaux sociaux a profondément changé. Comment cela s'est-il produit et quel impact cela aura-t-il sur la société ? Et, question peut-être la plus urgente : à quel point les milliards d'utilisateurs des réseaux sociaux s'en soucient-ils vraiment ?

La "troisième phase" des réseaux sociaux

En octobre, lors d'une nouvelle conférence téléphonique sur les résultats financiers, marquée par un enthousiasme débordant, Mark Zuckerberg, PDG de Meta, a déclaré avec joie que les réseaux sociaux étaient entrés dans une troisième phase, désormais centrée sur l'IA.

"La première phase était celle où tout le contenu provenait d'amis, de la famille et des comptes que vous suiviez directement. La deuxième a vu l'ajout de tout le contenu créé par les développeurs. Maintenant que l'IA facilite la création et le remixage de contenu, nous allons ajouter une immense quantité de contenu", a-t-il déclaré aux actionnaires.

Meta, qui exploite les réseaux sociaux Facebook, Instagram et Threads, permet non seulement aux utilisateurs de publier du contenu généré par l'IA, mais a également lancé des produits pour faciliter sa création. Des générateurs d'images et de vidéos, ainsi que des filtres de plus en plus performants, sont désormais largement disponibles.

Contactée pour obtenir des commentaires, Meta a transmis à la BBC le compte rendu de sa conférence téléphonique sur les résultats de janvier. Lors de cet appel, le milliardaire a déclaré que l'entreprise s'orientait encore davantage vers l'IA et n'a fait aucune mention de mesures drastiques contre le spam.

"Nous allons bientôt assister à une explosion de nouveaux formats multimédias plus immersifs et interactifs, rendus possibles uniquement par les progrès de l'IA", a affirmé Zuckerberg.

Dans son blog de prévisions pour 2026, Neal Mohan, PDG de YouTube, a indiqué qu'en décembre seulement, plus d'un million de chaînes YouTube avaient utilisé les outils d'IA de la plateforme pour créer du contenu.

"Tout comme les synthétiseurs, Photoshop et les images de synthèse ont révolutionné le son et l'image, l'IA sera une aubaine pour les créatifs prêts à l'exploiter", a-t-il écrit.

Le PDG a également reconnu l'inquiétude croissante concernant le "contenu de faible qualité, aussi appelé déchets générés par l'IA". Il a ajouté que son équipe travaillait à l'amélioration des systèmes de détection et de suppression des contenus répétitifs et de faible qualité.

Il a toutefois refusé de se prononcer sur ce qui devrait ou ne devrait pas prospérer. Il a noté que des contenus autrefois de niche, comme l'ASMR (sons relaxants conçus pour provoquer une sensation de picotement dans la tête) et les jeux en direct, sont désormais populaires.

Selon une étude de la société d'intelligence artificielle Kapwing, 20 % du contenu affiché sur un compte YouTube nouvellement créé est désormais constitué de "vidéos IA de faible qualité".

Les vidéos courtes, en particulier, ont rencontré un franc succès : Kapwing en a trouvé dans 104 des 500 premiers clips YouTube Shorts diffusés sur un nouveau compte créé par les chercheurs.

L'économie des créateurs semble être un moteur important, car les créateurs de contenu et les chaînes peuvent générer des revenus grâce à l'engagement et au nombre de vues.

À en juger par le nombre de vues sur certaines chaînes et vidéos générées par l'IA, les gens sont attirés par le contenu, ou du moins par les algorithmes qui déterminent ce que nous voyons. Selon Kapwing, la chaîne YouTube indienne Bandar Apna Dost, spécialisée dans les contenus de mauvaise qualité liés à l'IA, est la plus visionnée avec 2,07 milliards de vues et des revenus annuels estimés à 4 millions de dollars pour ses créateurs.

Cependant, cette situation engendre également des réactions négatives. De nombreuses vidéos virales sur l'IA suscitent souvent une vague de commentaires indignés critiquant leur contenu.

Monstres géants et parasites intestinaux mortels

Théodore, l'étudiant parisien, a contribué à alimenter cette polémique.

Fort de sa nouvelle influence sur YouTube, il s'est plaint auprès des modérateurs du flot de dessins animés étranges réalisés par une intelligence artificielle, qui cumulaient des millions de vues. À ses yeux, ces vidéos étaient perturbantes et dangereuses, et il estimait même qu'elles visaient parfois les enfants.

Ces vidéos portaient des titres comme "Une chatte sauve son chaton de parasites intestinaux mortels" et présentaient des scènes sanglantes.

Une autre courte vidéo montrait une femme en chemise de nuit mangeant un parasite, puis se transformant en un monstre géant et furieux, finalement guéri par Jésus.

YouTube a supprimé les chaînes, expliquant avoir agi ainsi pour non-respect de son règlement. La plateforme a déclaré que son objectif est de proposer aux utilisateurs des contenus de haute qualité, indépendamment de leur mode de création, et qu'elle s'efforce de limiter la diffusion de contenus de faible qualité générés par l'IA.

Mais cette expérience, parmi tant d'autres, a démoralisé Théodore.

Même des sites web de style de vie apparemment accueillants comme Pinterest (le forum de recettes et d'idées de décoration intérieure) ont été touchés.

Frustrés par le flot de contenu de mauvaise qualité généré par l'IA, les utilisateurs ont incité l'entreprise à mettre en place un nouveau système de désactivation pour ce type de contenu.

Cependant, ce système repose sur la reconnaissance par les utilisateurs que leurs images de "maison idéale" ont été créées par l'IA.

Fureur dans la section commentaires

Sur mon fil d'actualité (et je sais que chacun a son propre fil, commentaires compris), la contestation des absurdités liées à l'IA est devenue implacable.

Que ce soit sur TikTok, Threads, Instagram ou autre, un mouvement populaire semble se développer contre ce type de contenu. Parfois, le nombre de "j'aime" sur les commentaires critiquant l'IA dépasse largement celui de la publication originale.

Ce fut le cas récemment avec une vidéo montrant un snowboardeur sauvant un loup d'un ours. La vidéo elle-même a récolté 932 "j'aime", contre 2 400 pour un commentaire : "levez la main si vous en avez marre de ces conneries d'IA !"

Mais bien sûr, tout cela alimente le phénomène. Chaque interaction compte pour les réseaux sociaux, où l'engagement est primordial.

Alors, est-ce vraiment important que la vidéo incroyable, touchante ou choquante qui apparaît dans votre fil d'actualité soit authentique ou non ?

Les effets de la "dégénérescence cérébrale"

Emily Thorson, professeure agrégée à l'Université de Syracuse, spécialisée en politique, désinformation et perceptions erronées, explique que cela dépend de l'utilisation que les utilisateurs font du réseau social.

"Si quelqu'un utilise une plateforme de vidéos courtes simplement pour se divertir, son critère d'évaluation est tout simplement : 'est-ce divertissant' ?", dit-elle. "Mais si quelqu'un utilise la plateforme pour s'informer sur un sujet ou interagir avec les membres de sa communauté, il pourrait percevoir le contenu généré par l'IA comme plus problématique."

L'opinion des gens sur les contenus de mauvaise qualité générés par l'IA dépend aussi de la manière dont ils sont communiqués.

Si quelque chose est clairement présenté comme une blague, il a tendance à être perçu comme tel. Mais lorsque ces contenus sont spécifiquement conçus pour tromper, ils peuvent susciter la colère.

Une vidéo générée par l'IA que j'ai vue récemment est emblématique : une vidéo incroyablement réaliste, dans le style d'un documentaire animalier, montrant une chasse au léopard impressionnante. Dans les commentaires, certains spectateurs étaient dupés ; d'autres étaient perplexes.

"De quel documentaire s'agit-il ?", a demandé un internaute. "S'il vous plaît. C'est le seul moyen de prouver que l'IA n'existe pas."

Alessandro Galeazzi, de l'Université de Padoue en Italie, étudie les comportements sur les réseaux sociaux et les chambres d'écho.

Il explique que vérifier si une vidéo est générée par une IA demande un effort mental et craint qu'à terme, les gens cessent tout simplement de le faire.

"Je pense que le flot de contenus absurdes et de piètre qualité générés par l'IA pourrait encore réduire la capacité d'attention des internautes", affirme-t-il.

Il fait la distinction entre les contenus trompeurs et les productions d'IA plus comiques, manifestement fausses, comme des poissons portant des chaussures ou des gorilles soulevant des haltères en salle de sport.

Mais même ces contenus extravagants pourraient avoir un impact néfaste. Il évoque le risque de "dénutrition cérébrale" : l'idée que notre exposition constante aux réseaux sociaux nuit à nos capacités intellectuelles.

"Je dirais que les contenus de mauvaise qualité générés par l'IA amplifient cet effet de dénutrition cérébrale, incitant les gens à consommer rapidement des contenus dont ils savent qu'ils ont peu de chances d'être réels, et probablement aussi dénués de sens et d'intérêt", conclut-il.

Réduction des effectifs des équipes de modération

Au-delà des contenus de mauvaise qualité, certains contenus générés par l'IA peuvent avoir des conséquences bien plus graves.

La plateforme d'IA xAI d'Elon Musk et le réseau social X ont récemment été contraints de modifier leurs règles après que le chatbot Grok a été utilisé pour déshabiller numériquement des femmes et des enfants sur X.

Par ailleurs, suite à l'attaque américaine contre le Venezuela, de fausses vidéos montrant des personnes en larmes dans les rues et remerciant les États-Unis ont circulé. Ce type de contenu peut influencer l'opinion publique et donner l'impression que le raid américain a été plus étendu qu'il ne l'était en réalité.

Ceci est particulièrement inquiétant, car de nombreuses personnes s'informent exclusivement via les réseaux sociaux, selon les analystes.

Manny Ahmed, PDG d'OpenOrigins, une entreprise spécialisée dans la distinction entre images générées par l'IA et images réelles, affirme qu'il est nécessaire de trouver un nouveau moyen pour les éditeurs de contenu authentique de prouver l'authenticité de leurs vidéos et images.

"Nous en sommes arrivés au point où il est impossible de déterminer avec certitude ce qui est authentique par simple observation", explique-t-il. "Au lieu de tenter de détecter les faux contenus, nous avons besoin d'une infrastructure permettant aux contenus authentiques de prouver publiquement leur origine."

On pourrait penser que les entreprises de médias sociaux pourraient s'en charger. Mais nombre d'entre elles, comme Meta et X, ont réduit leurs équipes de modération et adopté une approche plus collective. Elles préfèrent désormais s'appuyer sur les utilisateurs pour signaler les contenus faux ou trompeurs.

Les réseaux sociaux sans déchets ?

Alors, si les géants de la tech actuels laissent généralement circuler les contenus de mauvaise qualité, une nouvelle plateforme de médias sociaux pourrait-elle émerger, promettant une alternative saine et, à terme, concurrencer les entreprises traditionnelles ?

Cela semble peu probable, car la détection par l'IA devient de plus en plus complexe. Les machines ne peuvent plus déterminer avec certitude si une vidéo ou une image est fausse, et il leur serait encore plus difficile de juger subjectivement si un contenu est de mauvaise qualité.

Cependant, si un nouveau réseau social voit le jour et que les utilisateurs votent, la donne pourrait changer. Tout cela me rappelle l'essor de BeReal, une application française qui a gagné en popularité pendant la pandémie et qui encourage ses utilisateurs à montrer leur authenticité à travers des selfies sans filtre, pris au hasard.

BeReal n'a pas encore atteint le niveau de Facebook et Snapchat, et ne l'atteindra probablement jamais. Mais elle a incité d'autres plateformes à s'y intéresser et, dans certains cas, à copier le concept. Un scénario similaire pourrait se reproduire si un opposant à l'IA se lance.

Quant à Théodore, il estime que la bataille est perdue et que l'IA est là pour rester.

Malgré le flot incessant de messages de ses 130 000 abonnés, il publie moins et s'est en grande partie résigné à cette nouvelle normalité du monde numérique.

"Contrairement à beaucoup de mes abonnés, je ne suis pas fondamentalement opposé à l'IA", explique-t-il. "Je suis contre la pollution numérique qu'elle engendre, une IA créée à des fins de divertissement et de vues rapides."

*Crédit image ci-dessus : BBC ; image générée par IA avec Adobe Firefly.