FrédériqueBee@mastodonFeb 11, 2025
Limites Numériques

Nouvelle enquête pour décrypter les stratagèmes exploités dans les interfaces pour nous inciter ou nous forcer à utiliser l’IA, que vous le vouliez ou non.
Jamais une fonctionnalité n’aura autant été poussée en si peu de temps, spatialement, graphiquement, interactivement et de manière autant répétée. Une mise en avant probablement inédite dans l’histoire des interfaces, symbole d’une technologie aux investissements massifs qu’il faut rentabiliser.

https://limitesnumeriques.fr/travaux-productions/ai-forcing

Extraits (1/x) ⬇️

Le forcing de l'IA | Limites numériques

Limites numériques
Feb 11, 2025 at 10:49amWeb
Show threadLimites NumériquesFeb 11, 2025
➀ Les fonctions d’IA ont tendance à occuper beaucoup d’espace dans les interfaces et prennent souvent la place la plus précieuse.
Sur Snapchat ou Google, l’IA s’intègre comme une simple conversation. Sur Google Keep elle prend même le bouton le plus important, tandis que sur Notion les boutons sont placés au plus près du curseur. Une même fonction IA est même répétée à plusieurs endroits de l’interface comme sur Adobe Reader.
Show threadLimites NumériquesFeb 11, 2025
② L’IA est mise en avant graphiquement à l’aide d’une couleur spécifique ou d’une animation, alors que les autres fonctionnalités restent statiques et en noir et blanc.
Parfois certains services vont même jusqu’à changer complètement leur identité aux couleurs de l’IA (Qwant).
Show threadLimites NumériquesFeb 11, 2025
③ Vous n’êtes parfois qu’à un clic de l’utiliser, y compris par erreur. Dans Notion il suffit d’appuyer sur la barre d’espace pour la déclencher, alors que tout autre commande exige d’appuyer sur des touches moins fréquentes.
Si l’IA est très facile à activer, elle est également très dure à désactiver. De nombreux dark patterns ont été identifiés rendant la tâche plus difficile.
Show threadLimites NumériquesFeb 11, 2025

④ L’IA est présentée comme magique. L’icône "✨" fait habituellement référence à qq chose de spécial, de nouveau et caractérise l’émerveillement tandis que les icônes des autres fonctions illustrent plutôt ce qu’elles font (⚙️🗑️📅📎...).

La couleur violet mauve (associée historiquement à la magie et à l’impalpable) et son dégradé bleu sont omniprésents.

Show threadLimites NumériquesFeb 11, 2025
Cette métaphore de la magie n’est pas anodine. Elle positionne l’IA comme un outil à tout faire sans jamais dire ce qu’elle ne fait pas. Aboutissant à l’invisibilisant de sa matérialité et imposant l’idée qu’elle rend nécessairement les choses plus faciles.
Show threadLimites NumériquesFeb 11, 2025
⑤ L’IA emprunte souvent des caractéristiques humaines (avec des prénoms ou des visages) mais aussi à la métaphore de l’“assistant”. Une manière de la présenter comme désirable et performante tout en se plaçant comme une aide utile aux personnes sans jamais se positionner comme un remplacement de l'humain.
Show threadLimites NumériquesFeb 11, 2025
Ps : pour conclure ce fil, on voulait remercier la commu Mastodon qui nous a envoyé une énorme quantité de témoignages et de captures d'écrans qui vont bien nous servir pour un article de recherche 🙏
Show threadThin MaxFeb 12, 2025
@limitesnumeriques au Japon le violet c'est associé à la mort et au mal. Y a qu'à regarder la plupart des méchants de shonen ou encore les Pokémons de type "Fantôme"
Show threadSamLeLuxo φ 🇺🇦 🏳️‍🌈 🇵🇸 ☮️🚴Feb 11, 2025
@limitesnumeriques Très belle analyse ! Merci pour mettre des mots sur cette impression de submersion que je subis.
Show threadpygFeb 12, 2025

@limitesnumeriques

C'est un travail passionnant, important et de grande qualité : bravo (et merci 🙏 )

Show threadLimites NumériquesFeb 12, 2025
@pyg Merciii 😊
Show threadEtienneFeb 13, 2025

@limitesnumeriques merci pour cette article très éclairant.

Ce matin je suis tombé sur un écran de configuration de Doctolib qui prend désormais tout son sens : vos données personnelles y compris médicales vont être consommées par des IAs (actif par défaut bien entendu)

Avec une bonne grosse culpabilisation si tu refuses.

Show threadMartoufMar 6
@eti42b @limitesnumeriques on dirait le bouton mis en place sur Firefox ><
Show threadfan de décroissance matérielleFeb 15, 2025
@limitesnumeriques L'IA n'est pas déployée à marche forcée. Hors contexte professionnel, les gens ont choisi de se mettre sous le joug du logiciel privateur ou d'un service d'une tierce partie. Le logiciel libre existe et il est possible de se passer en très grande partie d'ordinatique. En prétendant que ce serait à marche forcée, vous déresponsabilisez les gens et invitez de fait à ne pas remettre en cause le logiciel privateur et l'ordinatique déporté chez n'importe qui.