Aller au contenu principal

«Algorithmes : la bombe à retardement» (2/3)

O’Neil. C, Ed. Les Arènes, Paris, 2018, 235 p.

Lorsqu’on crée un modèle, il faut tout d’abord choisir les données que l’on juge pertinentes pour l’alimenter. «Nous simplifions donc le monde réel à une sorte de modèle réduit facile à comprendre, et dont on déduit des actions et des faits essentiels».

L’on attend de ce modèle «qu’il accomplisse une seule et unique tâche et nous résignons au fait qu’il puisse agir de temps à autre comme une machine désorientée, comportant d’importants angles morts».

Et l’auteure de donner un exemple concret : «quand on lui demande un itinéraire, Google Maps modélise l’environnement en une succession de routes, de tunnels et de ponts. Il ne s’occupe pas des bâtiments, parce qu’ils sont sans rapport avec la tâche demandée. Quand un logiciel d’avionique guide un appareil, il modélise le vent, la vitesse de l’avion et la piste d’atterrissage, mais laisse bien évidemment de côté les rues, les tunnels, les bâtiments ou les passants».

Autre exemple : le modèle de la valeur ajoutée utilisé dans les écoles de Washington, «évalue principalement les enseignants sur la base des scores obtenus par leurs élèves lors des tests de fin d’année, sans regarder s’ils les font participer en cours, s’ils s’emploient à améliorer certaines compétences spécifiques, s’ils savent gérer une classe, ou s’ils aident les enfants en cas de difficultés personnelles ou familiales».

Il est vrai que ce modèle se montre excessivement simpliste. Il sacrifie une perception juste et profonde des situations sur l’autel de l’efficience. Mais du point de vue de l’administration, «il offre un outil efficace permettant de débusquer des centaines d’enseignants apparemment médiocres, fût-ce au risque d’en méjuger certains».

On voit ici que les modèles, malgré leur réputation d’impartialité, sont «le reflet d’une idéologie et d’objectifs bien précis. En supprimant la possibilité de consommer des friandises à chaque repas, j’ai imposé mon idéologie au modèle culinaire. Les modèles sont un ensemble d’opinions inséré dans un système mathématique».

Par ailleurs, et avec les torrents de données qu’ils allaient fournir, «les gens offriraient aux publicitaires la capacité d’acquérir une connaissance approfondie de leurs clients potentiels. Les entreprises auraient de ce fait la possibilité de leur adresser les informations qu’elles jugeraient utiles de manière ciblée : au bon moment et au bon endroit».

Ainsi, «on nous classe, on nous catégorise, on nous note au travers de centaines de modèles, en fonction des préférences et des schémas».

Or, si ces données procurent une base solide pour des campagnes publicitaires légitimes, elles nourrissent aussi leurs cousines prédatrices : «des publicités qui visent les personnes en grand besoin et leur vendent des promesses mensongères ou hors de prix. Celles-ci dénichent les inégalités et s’en repaissent. Elles perpétuent en conséquence la stratification sociale existante, avec toutes ses injustices».

Un fossé de plus en plus large sépare de ce fait, d’un côté les gagnants du système, et de l’autre les individus qui servent de proies à ses modèles.

Partout où le besoin et l’ignorance se combinent, des publicités prédatrices ont toutes les chances d’apparaître. Si leur ordinateur se met à ralentir, «il s’agira peut-être d’un virus injecté par l’un de ces publicitaires, qui proposera alors de régler le problème».

Rubrique «Lu Pour Vous»

9 novembre 2023

Vous pouvez partager ce contenu