Julien Falgas 🪡

Les IA génératives, c'est 💩 parce que :

1. Les IAg produisent l'apparence d'une conversation dont le contenu informationnel est structurellement indifférent à la vérité.
2. Les IAg détruisent en premier lieu nos écosystèmes informationnels
3. Les IAg sont des systèmes socio-techniques à l'empreinte écologique croissante par leur consommation intrinsèque comme par leurs rétroactions.
4. Les IAg ne sont que l'ultime avatar d'un milieu technique numérique qui se déploie à la faveur d'un impensé tenace.

1/10 : Ce que je sais des IA génératives

#ResistIA #ResistIAgen #technocritique #ecologie #politique #information

Mar 31 at 7:39amWeb
Show threadJulien Falgas 🪡22h ago

1.a Lorsque les informations générées par IA sont correctes, il est impossible de déterminer si c'est le fruit du hasard, d'un vulgaire recrachage de données existantes ou bien d'un interprétation pertinente. Lorsque les IA génératives donnent de bonnes réponses, on ne peut pas savoir si c'est pour de bonne raisons.

Alban Leveau-Vallier : https://www.youtube.com/watch?v=a9sQxhOwz0U

2/10 : Ce que je sais des IA génératives

Le paradoxe ChatGPT : une machine qui répond sans comprendre ?

YouTube
Show threadJulien Falgas 🪡22h ago

1.b Les tentatives de rendre les réponses explicables ont paradoxalement tendance à nous rendre moins vigilant et à renforcer une confiance aveugle dans les réponses générées.

https://theconversation.com/ia-et-metacognition-savoir-quand-on-peut-faire-confiance-ou-non-a-la-machine-nest-pas-toujours-evident-279348

3/10 : Ce que je sais des IA génératives

IA et métacognition : savoir quand on peut faire confiance, ou non, à la machine n’est pas toujours évident

Un système d’IA doit toujours être supervisé par un humain, mais encore faut-il que cette personne soit en mesure de distinguer quand elle comprend ce que propose la machine et quand elle peut être influencée.

The Conversation
Show threadJulien Falgas 🪡22h ago

1.c Tous ces éléments devraient nous enjoindre à refuser l'usage d'IA génératives pour tous nos besoins informationnels. Quand on nous parle "d'accompagner les usages éthiques", on abandonne l'idée-même du "non-usage", alors qu'il devrait être prioritaire.

Suivez @arthurperret : https://ultv.univ-lorraine.fr/video/23162-entendu-episode-54-enjeux-des-usages-et-du-non-usage-de-lintelligence-artificielle-dans-leducation-par-arthur-perret/

4/10 : Ce que je sais des IA génératives

Entendu ! épisode 54 : Enjeux des usages et du non-usage de l'intelligence artificielle dans l'éducation, par Arthur Perret

Vidéothèque de l'UL
Show threadJulien Falgas 🪡22h ago

2.a Dans les faits, on observe que les IA génératives sont déployées pour automatiser et accélérer les process : lorsque cela fonctionne, cela peut augmenter la productivité, mais les conséquences de la moindre erreur sont démultipliées.

Suivez @danslesalgorithmes

5/10 : Ce que je sais des IA génératives

Show threadJulien Falgas 🪡22h ago

2.b Nos écosystèmes d'information en sont les premières victimes : les IA génératives démultiplient la production et la propagation de désinformation et de mésinformation, au détriment de la démocratie.

https://observatory.informationdemocracy.org/report/ecosystemes-de-linformation-et-menaces-a-la-democratie-resume-executif/

6/10 : Ce que je sais des IA génératives

Écosystèmes de l'Information et Menaces à la Démocratie: Résumé Exécutif - OID

Résumé Exécutif - Synthèse globale de l'état des connaissances sur les médias d'information, la gouvernance de l'information et des données.

OID
Show threadJulien Falgas 🪡22h ago

3.a Pour produire une apparence d'intelligence, les puces et les datacenter consomment une quantité croissante de matières premières, d'eau et d'énergie.

@bonpoteofficiel https://bonpote.com/intelligence-artificielle-le-vrai-cout-environnemental-de-la-course-a-lia/

7/10 : Ce que je sais des IA génératives

Intelligence artificielle : le vrai coût environnemental de la course à l'IA

L’intelligence artificielle est matérielle. Pour comprendre ses impacts il faut remonter sa chaîne de valeur qui mobilise des métaux, de

Bon Pote
Show threadJulien Falgas 🪡22h ago

3.b Derrière l'empreinte écologique des IAg, il y a un travail bien humain. Les données d'entrainement proviennent massivement d'œuvres pillées sans autorisation : littérature, travaux scientifiques, articles de presse, tout le contenu web public. A ce vol intellectuel s'ajoute le travail dans les mines et dans les fermes de données des anciens territoires coloniaux. Sachant que tout cela contribue à accélérer tous les rouages des sociétés de consommation, notamment la publicité, la désinformation sur les enjeux environnementaux et de santé publique.

Suivez @casilli : https://www.youtube.com/watch?v=gO1D6s8G7zA

8/10 : Ce que je sais des IA génératives

Avec Antonio CASILLI, comprendre LE TRAVAIL DERRIÈRE L'IA

YouTube
Show threadJulien Falgas 🪡22h ago

4.a Si nous peinons à déciller les yeux face à ces réalités accablantes pour les IAg, c'est parce que le numérique se déploie depuis des décennies à la faveur d'un impensé tenace. Il ne s'agit pas d'un absence de réflexion, mais d'un trop-plein de discours qui tendent à affirmer le caractère inéluctable de la digitalisation. Il faudrait "vivre avec", "accompagner les usages éthiques et critiques" sans interroger l'origine et les orientations idéologiques des techniques.

https://theconversation.com/comment-le-discours-mediatique-sur-lia-empeche-denvisager-dautres-possibles-211766

9/10 : Ce que je sais des IA génératives

Comment le discours médiatique sur l’IA empêche d’envisager d’autres possibles

Sept stratégies dans les discours autour de l’IA, qui nous empêchent de débattre des implications politiques de nos technologies.

The Conversation
Show threadJulien Falgas 🪡22h ago

4.b Prenant conscience de l'emprise américaine sur nos infrastructures numériques, on commence certes à parler de souveraineté... Mais il s'agit davantage de rester dans les course en produisant des substituts souverains, que de bifurquer en développant des alternatives qui répondraient à d'autres idéaux définis démocratiquement.

https://theconversation.com/x-facebook-et-instagram-menacent-nos-ecosystemes-dinformation-quelles-alternatives-247399

10/10 : Ce que je sais des IA génératives

X, Facebook et Instagram menacent nos écosystèmes d’information : quelles alternatives ?

Face au virage réactionnaire des réseaux sociaux dominants, conçus pour capturer notre attention, il est nécessaire d’inventer des alternatives qui ne reproduisent pas leurs logiques et leurs interfaces.

The Conversation
Show thread🏴‍☠️ MC Pablo ∴21h ago
@julienfalgas @casilli reco vidéo pour celui là (si y a la place en éditant le message) : https://www.youtube.com/watch?v=gO1D6s8G7zA
Avec Antonio CASILLI, comprendre LE TRAVAIL DERRIÈRE L'IA

YouTube
Show threadJulien Falgas 🪡21h ago
@p4bl0 @casilli Merci🙏
Show threadNicolas D'Angelo15h ago

@julienfalgas Question sincère : n'est-ce pas le cas aussi des humains ?

Quand un militant politique, un élu, un haut-fonctionnaire, un intervenant médiatique donne une information incorrecte, il est impossible de déterminer si c'est le fruit d'un vulgaire recrachage idéologique, d'une réflexion pertinente, d'un raisonnement incomplet, d'un choix assumé...

Et pour autant, nous en faisons quelque chose de ces informations. Charge à nous d'avoir une méthode pour trier le faux du vraisemblable.

Show threadJulien Falgas 🪡13h ago

@NicolasDangelo Lorsqu'un·e de nos semblables exprime une idée, nous pouvons le situer dans un contexte, évaluer les arguments et les sources, interroger cette personne et ses intentions. Bref, exercer notre jugement critique.

Face à une proposition générée par IA, nous n'avons pas les moyens d'un tel jugement. Il n'y a pas d'intention (sinon celles induites par des humains dans la phase d'entrainement et de fine-tuning). Il n'y a pas de contexte, sinon celui du prompt.

Même le bullshit de Donald Trump contient davantage d'information que celui de ChatGPT.

Show threadNicolas D'Angelo13h ago

@julienfalgas Si je demande à une IA de me générer une note sur un cadre juridique, ou une analyse sur une situation spécifique, ne puis-je pas a posteriori assurer un contrôle sur la qualité informationnelle de cette note, comme je pourrai le faire de la production d'un collegue humain que je ne connais pas ?

Je suis à 100% d'accord sur les limites de l'IA, mais je ne comprends pas en quoi l'argument devrait conduire à la position strictemement opposée : celle de jeter l'IA à la poubelle.

Show threadJulien Falgas 🪡11h ago

@NicolasDangelo Cet article expose en détails pourquoi on ne peut faire aucune confiance aux résultats générés par l'IA : https://www.arthurperret.fr/articles/2025-06-20-congres-sfsic-ia-impasse-informationnelle.html

On peut certes tout vérifier. Mais alors à quoi bon ? Ce que l'on sait déjà, on aurait pu le produire soi-même. Ce que l'on ne savait pas, il faut s'assurer que c'est correct. Et tout ce qui se révèlera erroné nécessitera un travail supplémentaire.

Du reste, lire tous les autres problèmes cités dans le fil (https://piaille.fr/@julienfalgas/116322650744867825). Quand bien même cela fonctionnerait, les conditions d'existence humaines et environnementales des systèmes d'IAg restent insoutenable. Ça ne tient que parce qu'on regarde ailleurs.

L’intelligence artificielle générative dans l’impasse informationnelle

Site web d’Arthur Perret, enseignant-chercheur en SIC.

arthurperret.fr/
Show threadNicolas D'Angelo10h ago

@julienfalgas 1/2 Merci pour cet article instructif. Et en effet, il paraît clair que l'IA n'est pas une source fiable d'information.

Néanmoins, mon appréhension demeure quant à l'affirmation que l'IA ne servirait à rien. D'une part, moi même je présente "un taux d'erreur incompressible" dans mes diverses activités 😅, mais j'ai surtout l'impression que le débat porte plutôt sur le rôle que l'on donne à l'IA.

Show threadNicolas D'Angelo10h ago

@julienfalgas 2/2 Si on attend de l'IA qu'elle soit une source fiable d'information, elle est en effet limitée. Cette utilisation n'apparaît pas pertinente.

Mais du reste, l'IA apporte déjà des gains variés (production de visuels, résumé de texte, production de sons...)

A terme par ailleurs, votre article évoque le fait que l'IA ne serait pertinente qu'avec un taux d'erreur de 0%. Or, il y a des domaines où les humains font des erreurs. Si l'IA arrive à un taux inférieur, elle peut être utile

Show threadJulien Falgas 🪡11h ago

@NicolasDangelo Le travail d'un·e collègue engage sa responsabilité. Même sans le connaître, la confiance qu'on lui accorde se fonde sur un titre, des compétences, un recrutement, toute une organisation du travail qui valide sa position et ses prérogatives. On peut être plus méfiant lors de la première collaboration, mais progressivement on apprendra à savoir si on peut lui faire confiance, à identifier ses qualités ou des faiblesses. On pourra l'aider à progresser.

Les systèmes d'IAg n'offrent rien de comparable. Ce n'est qu'une prédation de plus sur les cultures professionnelles déjà bien mises à mal.

Show threadLionel Larchevêque22h ago
@julienfalgas Je vais essayer de faire évoluer ton avis sur cette question : c'est VRAIMENT de la merde en barre... Pour aller encore plus loin, j'y vois même le développement d'une nouvelle arme, suite (ou aboutissement ?) d'une logique de prédation et de domination typiquement capitaliste. Idéalement, on devrait arrêter cette course folle, traduire Trump, Musk et consorts en justice, et se mettre à réfléchir plus sérieusement à l'avenir que l'on souhaite pour l'espèce humaine.
Show threadJulien Falgas 🪡22h ago

@Lio57

Quand on lit Pascal Robert (Le Numérique-monde), contrôler notre milieu numérique c'est contrôler des moyens de projection au sens balistique.

Même lorsqu'il ne sert pas à projeter des missiles, le numérique est un moyen de projeter sa puissance à des vitesses, des échelles et des dimensions toujours plus variées. Cela en fait un moyen de ciblage et de dissuasion (donc de surveillance) sans équivalent.

A mon sens, plus on épouse la conception américaine (ou chinoise) du numérique, et plus on s'expose sur ce terrain d'opérations. On accepte les conditions d'une bataille rangée en terrain découvert sans envisager d'autres options.

Show threadWilk22h ago
@julienfalgas On peut ramplacer "Les IAg" par "Les politiques", ça marche aussi !