Dévoré ce week-end, le dernier essai du journaliste @hubertguillaud Les algorithmes contre la société, chez @Lafabrique 😍 , est une réussite. Guillaud, à la tête de l’indispensable site @danslesalgorithmes dresse un panorama analytique des effets produits par certains systèmes (algorithmes, intelligences artificielles, etc.) quand ils sont déployés dans le service public mais également au sein des entreprises privées.

@hubertguillaud @Lafabrique @danslesalgorithmes

🔻 Cinq chapitres qui auscultent différents champs où le calcul a été imposé, avant tout pour des raisons idéologiques et dans l’idée de trier des masses, le plus souvent non pas pour inclure mais bien pour exclure. C’est le cas à la CNAF, où la chasse aux fraudeurs a conduit à bâtir des algorithmes discriminants, et Guillaud de rappeler que « La surveillance des publics dont

@hubertguillaud @Lafabrique @danslesalgorithmes
les revenus sont irréguliers est plus forte et fréquente que pour les autres. » (p. 48). C’est également le cas avec Parcoursup qui utilise des « critères absurdes qui passent pour objectifs et rationnels afin de maintenir la fable du mérite dans notre système scolaire » (p. 63).
🔻 D’autres domaines souvent moins visibles sont concernés, comme le recrutement, où « l’astrologie de bureau » tourne à plein régime pour créer
@hubertguillaud @Lafabrique @danslesalgorithmes
des distinctions artificielles aussi biaisées qu’inefficaces, ou encore la fixation des prix de nombreux produits sur la base d’une « tarification de la surveillance » (p. 108), tournant parfois carrément à l’arnaque. Guillaud est sans concession, « dans le monde du travail, le numérique ne produit aucun progrès social. » (p. 90).
🔻 Outre son aspect didactique, le livre d’Hubert parvient surtout à allier synthèse et exhaustivité.
@hubertguillaud @Lafabrique @danslesalgorithmes
Beaucoup de sujets sont traités, le mythe d’un numérique fluidifiant la société est proprement déconstruit. S’il y a bien un danger qui pointe, c’est la convergence d’un projet numérique discriminant et des projets politiques d’extrême droite qui n’attendent que de pouvoir utiliser ces systèmes déjà largement conçus selon leurs idéaux. C’est dans la granularité des systèmes que réside le danger fasciste plus que dans les quelques figures
@hubertguillaud @Lafabrique @danslesalgorithmes
qui monopolisent l’espace médiatique.
🔻 Avantage du livre : sa partie finale axée sur les contre-propositions. Calculer autrement est possible, si l’on se décide d’ouvrir aux citoyens les arènes décisionnaires où ces systèmes sont bâtis : « pas de calcul sans accès. Pas de calcul du social sans accès social à ce calcul. » (p. 145) Je ne le répéterai jamais assez, nous avons besoin d’analyses mais surtout de prises politiques sur les systèmes,
@hubertguillaud @Lafabrique @danslesalgorithmes
ce qui nécessite de les ouvrir et d’apprendre à les contester – et pas seulement avec de gros concepts marketing.
Pour la photo, je discutais avec Hubert (à gauche, je suis à droite, enfin, on se comprend) ce samedi aux 25 ans de la librairie le Merle Moqueur, on remet ça à la librairie Libre Ère le jeudi 24 avril à 19h30 (111 Bd de Ménilmontant, 75011 Paris). Sauvez la date !