"L’Internet des zombies" ? Une théorie du complot… pas si infondée que ça, par Gérald Bronner

Ce 6 février s’ouvre à Paris, et durant une semaine, le Sommet pour l’action sur l’intelligence artificielle qui a pour but de mettre cette innovation technologique au service de l’intérêt général. Ce domaine est présenté comme la matrice essentielle du développement présent et futur de nos sociétés. A ce titre, il donne lieu à toutes sortes de rêveries ou des cauchemars qui ne sont pas tous fondés. Ainsi, on redoute le moment de la "singularité" que l’Américain Vernor Vinge, un professeur d’informatique et auteur de science-fiction, caractérisait par l’apparition d’une intelligence supérieure qui dépassera l’humanité et lui échappera. Des films comme Matrix ou Terminator en sont des expressions populaires.

Parmi ces fantasmes angoissés, l’un a été diffusé sous la forme d’une théorie du complot. Kaitlyn Tiffany, une journaliste de The Atlantic, s’y est intéressé et l’a repéré sous la plume d’un internaute, au pseudonyme assez révélateur : IlluminatiPirate. Pour lui, et sa communauté, passionnée par ailleurs par la magie, l’Internet serait mort en 2016 ! Il serait désormais un univers stérile proposant des contenus produits officiellement par des humains mais en réalité propagés par des IA et quelques influenceurs payés grassement pour tromper les citoyens par des entreprises malveillantes et le gouvernement. Comme souvent, avec les théories du complot, le but ultime serait de faire de nous des moutons et de contrôler nos pensées.

Cette théorie est loufoque parce qu’elle imagine une intention unifiée et malveillante derrière la zombification d’Internet, mais elle n’est peut-être pas si factuellement infondée qu’on pourrait le croire. Il se trouve que la date donnée, 2016, n’est sans doute pas un hasard. Cette année-là, a paru un rapport de la société de sécurité Imperva qui s’intéresse à l’activité des robots en ligne. Or, celui-ci indiquait que la majorité des contenus sur Internet étaient désormais créés par des agents artificiels ! A cette date, les robots produisaient 52 % du trafic numérique. Cette étude peut être considérée comme robuste car elle reposait sur 17 milliards de visites de sites Web provenant de 100 000 domaines. Au reste, à cette époque déjà, les robots malveillants l’emportaient sur les bots d’assistance (56 % de la production artificielle).

Quand les robots parlent aux robots

Depuis, les choses sont devenues encore plus compliquées et préoccupantes. En effet, les intelligences artificielles génératives – que ce soit de textes, d’images ou de vidéos – sont de plus en plus entraînées sur des bases de données synthétiques… En d’autres termes, sur des objets qui ont été générés eux-mêmes par des IA. Et, comme le processus recommence sans cesse et que les productions artificielles envahissent peu à peu les mondes numériques, leur "poids" dans la matrice d’entraînement devient de plus en plus important. Certains chercheurs parlent de boucles autophages en soulignant qu’on ne comprend pas encore bien leurs propriétés.

En observant ces boucles auto-alimentées, ils constatent, dans tous les scénarios, que les modèles génératifs sont condamnés à voir déchoir leur qualité et leur diversité. Les produits cognitifs qui vont en émerger seront efficaces mais appauvris et terriblement monotones. Cette situation, ils la nomment d’un jeu de mots dont le pessimisme n’échappera à personne : MAD (Model Autophagy Disorder). Etant donné la baisse vertigineuse de leur coût et la progression, non moins vertigineuse, de leur disponibilité, les outils de création artificiels envahissent le marché cognitif produisant des cimetières de monuments que certains visitent en croyant qu’ils ont été produits par des humains et sans remarquer qu’ils se ressemblent un peu tous.

Cet état de fait ne s’adosse plus seulement à des bots ou des photos contrefaites mais aussi à des vidéos qui sont parfois vues des millions de fois et sont commentées… par des intelligences artificielles ! Les robots parlent aux robots, donc, et contribuent à produire une réalité alternative qui conduit vers une artificialisation des terres numériques. Les conspirationnistes, comme les astrologues aurait dit Voltaire, ne sauraient avoir le privilège de se tromper toujours.

* Gérald Bronner est sociologue et professeur à La Sorbonne Université.