Les réseaux sociaux sont devenus affreux, voici comment les guérir

Sur TikTok, Donald Trump danse avec des chiens sous les stroboscopes. They’re eating the dogs ! Le refrain entraînant reprend la dernière théorie fumeuse du candidat républicain aux élections américaines de 2024. Pendant ce temps, sur X (ex-Twitter), des clips générés par intelligence artificielle (IA) mettent en scène une fausse Kamala Harris enceinte dudit Trump. "Les démocrates veulent prendre vos enfants", affirme un peu plus loin un post - authentique, celui-ci - d’Elon Musk, qui demande, faussement ingénu, pourquoi "personne n’a tenté d’assassiner Biden et Kamala". Quelques minutes suffisent à s’en convaincre : les réseaux sociaux sont devenus affreux.

Vantés il y a quinze ans comme des agoras où l’on pouvait interpeller les puissants, ils tiennent aujourd’hui du dixième cercle de l’enfer. "C’est le seul endroit où deux personnes qui ne se sont jamais rencontrées se disputent à propos d’un sujet qu’elles ne connaissent pas", plaisante Tariq Krim, fondateur du think tank Cybernetica. Etait-ce couru d’avance ? Inévitable ? L’homme a ses défauts : un appétit pour le spectaculaire, un talent inné pour ronchonner, une bonne dose de flemmardise… Comme les plateformes gardent jalousement leurs secrets de fabrication, on peut vite croire que leur décadence est la conséquence inévitable de nos travers.

L’ingéniosité de plusieurs experts a heureusement permis de percer une partie de leurs mystères. "Nous avons créé des programmes qui simulent le comportement de différents types d’utilisateurs - par exemple, un adolescent - afin d’étudier ce que les réseaux sociaux leur recommandent", explique Marc Faddoul, cofondateur d’AI Forensics, qui enquête sur les algorithmes influents et opaques. L’association a ainsi révélé comment des jeunes regardant quelques vidéos TikTok sur les ruptures amoureuses se voient ensuite recommander des contenus sur la dépression, puis des vidéos romançant ou normalisant le suicide. Comme AI Forensics, nombre d’organisations indépendantes et académiques s’emploient à décortiquer les réseaux sociaux. Elles ont une bonne nouvelle : la décadence des réseaux n’est pas de notre faute. En tout cas, pas entièrement. Mieux, elle n’a rien d’inévitable. Déplacer quelques curseurs suffirait à rendre la sphère numérique de nouveau respirable.

Pour cela, il ne faut plus se laisser aveugler par la question de la liberté d’expression. Elon Musk (X), Pavel Durov (Telegram)… Les grands noms de la tech en ont fait leur totem d’immunité. Qu’un gouvernement s’avise de leur demander pourquoi ils laissent des publications haineuses, des activités criminelles ou des fake news prospérer, et ils crient à la censure, l’air offusqué. Un faux débat. La liberté d’expression a toujours eu des limites. Mme Durand peut bien raconter à quelques amis Facebook ses théories délirantes sur les vaccins comme elle le faisait avant autour d’un café, le problème est ailleurs. Il tient au fait que les réseaux sociaux décident d’accorder de la visibilité à tel contenu plutôt que tel autre. Ce qu’on appelle en anglais le reach, soit le nombre de personnes atteintes par une publication. Si Mme Durand a le sens de la formule, elle est susceptible, aujourd’hui, de se voir accorder plus d’audience que le vénérable New York Times.

Le "dangereux" modèle économique des réseaux sociaux

Comment en sommes-nous arrivés-là ? L’équation est simple. Les réseaux sociaux tirent leurs revenus de la publicité, non de leurs membres. "C’est ce modèle économique qui les rend dangereux", juge Angela Mueller, responsable Politique et Plaidoyer de l’ONG à but non lucratif AlgorithmWatch. Car les plateformes n’ont dès lors pas besoin que leurs utilisateurs soient pleinement satisfaits de leur expérience, uniquement qu’ils soient scotchés à leur écran. Leurs métriques sont édifiantes à cet égard. Les réseaux sociaux ne se contentent pas d’étudier ce que les internautes leur disent explicitement apprécier ou vouloir regarder davantage. Ils donnent une place majeure aux signaux implicites, notamment le temps qu’un internaute passe à regarder chaque publication. Si Mme Durand souhaite subitement se plonger dans la philosophie antique et s’abonne à des experts du sujet, les réseaux sociaux continueront de lui proposer, à intervalles réguliers, des vidéos d’accidents spectaculaires, de prises de bec à la télé ou de maquillage sponsorisé. Des publications qui risquent de piéger son attention, malgré toute sa bonne volonté.

Dès lors, le piège se referme. Mme Durand ne demande pas explicitement au réseau de lui resservir du clash et du bling-bling. Mais la plateforme a détecté que le contenu l’avait happée quelques secondes. Comme il lui faut garder son utilisatrice le plus longtemps possible devant l’écran pour l’abreuver de pubs, elle va lui en donner jusqu’à plus soif. L’apothéose de cette logique, c’est l’émergence du sludge content. Un terme qui désigne ces clips où l’on voit s’afficher simultanément deux ou trois vidéos hétéroclites, par exemple un jeu vidéo en bas de l’écran et une recette de cuisine en haut. Un gloubi-boulga numérique, sans queue ni tête, mais, hélas, diablement hypnotisant.

@kamalahq

oof

♬ original sound - Kamala HQ

Pour faire des réseaux sociaux des lieux plus propices à cette "décence ordinaire" dont parlait George Orwell, l’idée n’est pas tant de voir quelles publications censurer, mais lesquelles peuvent prétendre à une large audience. Les Anglo-Saxons distinguent ainsi le freedom of speech du freedom of reach. Pour en comprendre les implications, il faut se replonger dans l’une des plus grosses polémiques qui aient frappé un réseau social ces dernières années : les Twitter Files. Nous sommes fin 2022, deux mois après le rachat du réseau par Elon Musk. L’atmosphère est tendue. Le nouveau propriétaire ne cesse de critiquer l’équipe précédente - 80 % des salariés seront par la suite licenciés. Musk orchestre alors une étrange opération de "transparence" en diffusant des documents choisis avec soin à quelques journalistes, eux aussi triés sur le volet. Ces documents détaillent notamment une pratique controversée de Twitter appelée le "bannissement fantôme" - en anglais, shadow banning. Lorsqu’un utilisateur est visé par cette mesure, il ne s’en rend pas toujours compte et continue de poster ses messages habituels. Mais ses publications sont bien moins visibles du reste du monde car elles ne sont plus mises en avant. Elles se trouvent, en quelque sorte, coincées dans les limbes numériques.

Les théories farfelues de Mme Durand

Ces "listes secrètes" avaient provoqué un vif émoi. L’ancienne direction de Twitter a eu tort de ne pas exposer publiquement leur existence. Mais dès lors qu’une plateforme explique clairement ce qui peut motiver un shadow banning et prévient les internautes qui en sont l’objet, afin qu’ils puissent au besoin le contester, ce levier d’action devient intéressant. En pareil cas, Mme Durand est libre de divaguer sur la Terre plate et autres théories farfelues. Ses amis peuvent, s’ils y tiennent, consulter ses publications sur son profil. Mais ses délires ne sont plus diffusés aux quatre coins du monde.

"Un grand pouvoir implique de grandes responsabilités", rappelle Axel Dauchez, fondateur de la plateforme de mobilisation citoyenne Make.org, également à l’initiative, avec le CNRS, Sciences Po et la Sorbonne des "Communs démocratiques", un programme de recherche mondial pour mettre l’IA au service des démocraties. "Il faut imposer aux influenceurs ayant un grand nombre de followers de respecter certaines règles éthiques, proches de celles des médias. Notamment à l’approche des élections, lorsque la période de réserve s’ouvre", précise l’expert. Les réseaux sociaux créent, en effet, une situation explosive puisqu’ils permettent la diffusion de fake news politiques que les médias n’auront plus le droit de débunker pendant cette période. "Lors de crises aiguës, comme les émeutes en Nouvelle-Calédonie, il peut être salutaire de ralentir la vitesse de diffusion des messages, pointe aussi le sociologue Dominique Boullier, spécialiste des usages du numérique et professeur à Sciences Po. Les publications ne sont pas censurées, mais les citoyens ne peuvent, par exemple, les consulter ou les commenter que vingt-quatre heures plus tard." Le temps de la réflexion, en somme.

Les magnats du web rattrapés par la politique

A l’heure des images générées par IA, la détection des fake news se heurte à de nouveaux défis. Pourquoi ne pas exiger des réseaux qu’ils mettent plus en avant les contenus de sources dont la fiabilité est avérée ? Les organismes internationaux, les sociétés savantes, les médias respectant les standards d’un journalisme professionnel… La liste est longue. "Les contenus fiables sont aujourd’hui en concurrence avec n’importe quel autre contenu, alors qu’ils nécessitent un investissement bien plus conséquent. Il faut donc trouver des mécanismes de promotion adaptés afin de leur redonner un avantage compétitif", expliquait Camille Grenier, directeur des opérations du Forum sur l’Information et la Démocratie dans un entretien donné à L'Express en début d'année.

Rappelons-nous également que la technologie donne des outils inédits pour organiser de larges débats de société sans qu’ils ne virent au pugilat. La plateforme créée par Axel Dauchez en est un bon exemple. Make.org permet aux acteurs publics et privés d’organiser de vastes consultations en ligne sur des thèmes variés : "Comment être mieux soigné en France ?", "Comment agir pour l’environnement ?"… Des débats souvent complexes. L’équipe a d’ingénieuses solutions pour encourager les citoyens à donner leurs avis et cartographier ces derniers. Les internautes peuvent bien sûr faire des propositions. Mais s’ils n’ont pas d’idées précises, ou pas le temps, ils peuvent déjà participer en votant rapidement sur celles des autres. Pouce rouge, pouce vert… Des icônes permettent d’indiquer en deux clics quelles propositions leur semblent "réalistes", "banales" ou "incompréhensibles". "Ces consultations permettent d’identifier les actions qui obtiennent de larges consensus dans la société", explique le fondateur de Make.org. Et elles prouvent, au passage, que Facebook et consorts pourraient aisément identifier - et mettre en avant - ce qui rassemble les internautes plutôt que ce qui les divise.

Bluesky, le réseau social monté, puis lâché par l’ancien patron de Twitter Jack Dorsey, est également à regarder de près. Son histoire est aussi baroque que le parcours de son PDG, fan de yoga et de retraites méditatives, qui a troqué au fil des ans son look de startuper dynamique pour celui de gourou à longue barbe. Bluesky s’est construit dans l’ombre pendant des années. Mais son fonctionnement, très différent de celui des réseaux historiques, a attiré l’attention du public. "Son originalité est de permettre aux utilisateurs de construire leur propre algorithme de recommandation", explique Marc Faddoul, d’AI Forensics. Laisser l’internaute choisir ce qu’il voit semble la moindre des politesses. Mais sur Facebook ou TikTok, il n’a quasiment aucun contrôle là-dessus.

Améliorer les réseaux sociaux est une bataille de longue haleine. Mais elle n’est pas perdue d’avance. Deux tendances de fond jouent en faveur des citoyens. D’abord, le réveil des politiques. Grâce à deux récentes réglementations d’envergure, le DMA - Digital Markets Act - et le DSA - Digital Services Act -, l’Europe est en train de siffler la fin de la récré dans le secteur. La menace du DSA a fait renoncer TikTok à Lite, une version contestée car elle récompensait les utilisateurs passant beaucoup de temps sur la plateforme. Plusieurs enquêtes visant les géants du Web ont été ouvertes, notamment une visant X. L’Australie a également demandé des comptes à son propriétaire, Elon Musk, qui se contente pour l’heure d’adresser aux pouvoirs publics des injures – il a invité l’ancien commissaire européen Thierry Breton à "aller se faire voir" et traité de "fascistes" les autorités australiennes.

La fin de la récré sur Telegram

La France a également fait fermer, en juin, l’effroyable Coco.gg, site sur lequel pullulaient des contenus pédophiles et qu’a utilisé pendant des années, en toute impunité, Dominique Pelicot, aujourd’hui jugé pour avoir violé et fait violer sa femme par plus de 50 inconnus trouvés sur ce forum. Paris s’est enfin attaqué à Telegram, une plateforme sur laquelle circulaient en toute liberté des publications permettant d’acheter des armes ou de la drogue. Si la mise en examen de son patron, Pavel Durov, a créé une vive polémique, force est de constater qu’elle porte ses fruits : Telegram a accepté de livrer à l’avenir aux autorités les adresses IP et les numéros de téléphone de ceux qui enfreignent la loi.

L’autre tendance qui pourrait faire émerger de meilleurs réseaux sociaux est plus terre à terre. "Il n’y a guère de place dans le monde pour plus de deux grandes plateformes sociales financées par la publicité", explique Antoine Martin, spécialiste du secteur. Le Français avait cofondé en 2016 le réseau social Zenly, racheté un an plus tard par l’américain Snap. Il a depuis lancé Amo, une start-up qui développe des applications sociales - Bump, Tilt et ID - permettant aux internautes d’interagir davantage avec leurs amis proches. Les réseaux sociaux alternatifs se tournent donc petit à petit vers des modèles économiques différents, notamment celui de l’abonnement payant.

Un virage paradoxalement prometteur pour le consommateur. Certes, c’est une dépense supplémentaire. Mais si le citoyen redevient le vrai client des plateformes, elles auront plus à cœur de protéger ses intérêts. "Elles n’essayeront plus de l’hypnotiser pendant des heures. Et s’il passe des moments épanouissants mais plus ponctuels, cela réduira d’autant leurs dépenses dans les serveurs", confie Antoine Martin dans un sourire. Toutes ces heures perdues à "scroller" pourraient un jour n’être plus qu’un lointain souvenir. Ne cessons pas d’y croire.