Grimonpont. A, Actes Sud, Lyon, 2022, 256 p.

On entend souvent dire que l’objectif principal des plateformes sociales est de récupérer nos données personnelles pour les revendre. Cette idée est en grande partie, exacte.

Car, les données leur sont indispensables pour «bâtir une intime connaissance de qui nous sommes, laquelle leur donne accès au marché de nos comportements actuels mais aussi futurs».

Les réseaux sociaux sont de puissantes machines pour extraire et garder captive l’attention humaine. Au coeur du fonctionnement de ces machines résident les intelligences artificielles de recommandation : «ce sont les algorithmes chargés d’alimenter les fils d’actualités et les suggestions personnalisées des réseaux sociaux».

C’est que «là où les programmes traditionnels effectuaient une tâche en suivant une liste d’instructions écrites par un humain, une IA dotée de capacités d’apprentissage est capable d’améliorer ses performances en ajustant elle-même son code à partir de l’expérience».

Depuis les années 2010, les intelligences artificielles ayant démontré les progrès les plus rapides utilisent des techniques dites d’apprentissage profond, ou deep learning. La structure des systèmes de deep learning s’inspire de celle du cerveau : «ils sont constitués d’un réseau de neurones symboliques empilés en couches. Ces réseaux de neurones apprenants sont soumis à un entraînement au cours duquel ils développent l’aptitude à la tâche pour laquelle ils ont été conçus».

Les IA sont aujourd’hui meilleures que des médecins pour diagnostiquer des cancers de la peau ou des pneumonies. «Elles se montrent capables, à partir de simples photographies, de reconnaître des émotions humaines mieux que les humains eux-mêmes. Certaines peuvent produire une œuvre artistique en imitant le style d’un écrivain, d’un compositeur ou d’un artiste peintre. Elles sont capables de générer des images d’objets ou de personnes fictives et de produire de fausses vidéos très réalistes, mettant en scène qui l’on veut en train de faire ce que l’on veut (deep fakes)».

Dans le futur, «le contenu généré par l’IA continuera à devenir plus sophistiqué et il sera de plus en plus difficile de le distinguer du contenu créé par les humains. En attendant, nous devons rester sur nos gardes lorsque nous accédons à n’importe quelle information, et apprendre à questionner la fiabilité des sources que nous consultons. […] Dans un avenir où les machines créent de plus en plus de contenu, nous devrons déterminer comment faire confiance».

Pendant que nous nous émerveillons des IA qui améliorent la précision des diagnostics médicaux, «d’autres IA sont mises au service du crime et de la guerre. Les IA de pilotage des drones autonomes rendent ceux-ci redoutablement efficaces pour atteindre et détruire n’importe quelle cible».

Dans le même temps, Youtube, Facebook, Twitter, mais aussi Instagram, Snapchat, TikTok et LinkedIn, ou encore Tinder, Pinterest et Netflix…etc., toutes ces plateformes suggèrent des contenus sous forme de fils d’actualités ou de flux de recommandations personnalisées.

Ce sont des IA qui déterminent l’enchaînement des publications visibles sur notre compte Facebook, des tweets sur notre page d’accueil Twitter, ou encore des vidéos qui nous sont recommandées sur Youtube.

L’on estime d’ailleurs que facebook, ce sont 3 milliards de «fils d’actualités» strictement uniques, constitués d’un enchaînement de publications sélectionnées par une intelligence artificielle. Chacun des 3 milliards d’utilisateurs quotidiens de Facebook consacre en moyenne une heure par jour à parcourir son fil d’actualités personnalisé.

Youtube ? Ce sont, chaque jour, 1 milliard d’heures de vidéos visionnées, soit 120 000 ans de vidéos mises bout à bout.

Or, «parmi ces vidéos, 70% sont regardées à la suite d’une recommandation par l’IA de Youtube. Chaque minute, l’algorithme analyse des millions de vidéos pour répondre aux millions de requêtes, mais aussi pour faire des millions de suggestions aux utilisateurs».

Sur Youtube, Chaque minute, ce sont 500 heures de nouvelles vidéos qui sont chargées sur la plateforme, soit 82 ans par jour. L’IA de Youtube abat un travail non moins titanesque : «elle vérifie en continu, l’absence de contenus pornographiques ou criminels par reconnaissance d’image, effectue un sous titrage automatique en plusieurs dizaines de langues par reconnaissance vocale et traduction automatique, choisit quelle publicité associer à quelle vidéo et à quel utilisateur…Aucune organisation humaine ne peut raisonnablement fournir un travail d’ampleur, de rapidité et d’efficacité comparables aux aptitudes de l’IA de Youtube».

Quant à l’IA de recommandation de Facebook, celle-ci alimente le fil d’actualités de plusieurs milliards d’utilisateurs de manière personnalisée. Elle suit un processus en quatre étapes principales :

°- Premièrement, l’IA rassemble toutes les publications disponibles dans le cercle de connaissance de l’utilisateur (en moyenne plus de 1 000 par jour par utilisateur) et au-delà de ce cercle. Elle réalise un inventaire détaillé de leurs caractéristiques : émetteur, date de publication, type de contenu, personnes taguées, nombre de réactions reçues…etc.

°- Deuxièmement, l’IA estime la probabilité que l’individu connecté interagisse avec chacune de ces publications.

°- Enfin, elle compare les résultats obtenus pour les publications obtenant les meilleurs scores.

C’est pour dire que compte tenu de l’incommensurable quantité de données analysées, et des milliards d’utilisateurs aux intérêts tous différents, on comprend que les IA constituent le coeur de fonctionnement du «système». Autrement dit, «sans IA de recommandation, les utilisateurs seraient noyés sous des flots d’informations et de contenus ne présentant aucun intérêt à leurs yeux» : les IA de recommandation effectuent une sélection parmi des milliers de milliards de contenus disponibles, pour nous en présenter l’infime fraction ayant une chance de retenir notre attention.

Or, ces réseaux sociaux nous plongent dans ce que l’on pourrait appeler «l’aisance cognitive», laquelle aisance n’est cependant pas sans avoir d’innombrables biais.

Chez les jeunes enfants, «la surexposition aux écrans occasionne des modifications irréversibles des structures du cerveau qui affecteront leur manière de penser, de percevoir leur environnement et d’agir tout au long de leur vie. Les chefs d’inculpation sont nombreux : diminution des facultés d’apprentissage et de mémorisation, déficit de l’attention, moindre développement du langage, difficultés scolaires, perte de motivation, anxiété, dépression… Les impacts sont massifs, systématiques et souvent en partie irréversibles».

Les écrans empiètent ainsi sur toutes les activités essentielles au bon développement cognitif et physique de l’enfant : discussions, lecture, activités manuelles, sport, sommeil, ou même ennui.