C'est dimanche soir, une mild take sur l'IA avant d'aller me coucher : ayant été, en tant que traducteur, obligé de bosser avec les LLM depuis qu'ils existent, (a) je reste ahuri que tant de gens le fassent de leur plein gré, voire avec enthousiasme, mais du coup (b) j'aurais cru qu'à ce stade, on serait en train de discuter des difficultés concrètes inhérentes au travail avec les LLM, je veux dire l'attention constante qui est requise pour repérer et corriger leurs conneries, la difficulté à recalibrer son attention face à des problèmes très différents de ceux qu'on rencontre en supervisant le boulot d'un humain (tout le monde dit "les IA c'est comme un junior/stagiaire", ce n'est pas mon expérience du tout — les LLM disent n'importe quoi d'une manière très différente d'un humain incompétent).
Ça fait des années que j'essaie de produire des textes corrects à partir de traductions machine, c'est éreintant, vraiment c'est une des tâches les plus pénibles intellectuellement que je connaisse, et le résultat n'est jamais mieux que passable. Je n'arrive tout simplement pas à croire que tant de gens se disent "Ah trop cool ça ira bien comme ça allez hop".

Pour faire une analogie, parce qu'apparemment j'aime bien chercher les emmerdes :

https://boitam.eu/@martin/116195801144544770

(je mute la conversation, sinon je vais passer la journée à ressasser alors que je suis censé réviser mon examen de demain)
@martin Des gens mettent volontairement sur leur site pro des images avec du texte qui n'est même pas du bon alphabet.
Ils ne vont pas être gênés par le style...
https://eldritch.cafe/@temptoetiam/116125602468351895
@martin c’est médiocre mais c’est gratuit 
@joachim le truc c'est que de mon point de vue c'est pas médiocre, c'est non fonctionnel. Quand ton illustration est activement laide, quand tes phrases sont vides, je comprends pas ce qui pousse à se dire "ah oui, c'est bien". S'il y avait une machine à faire des t-shirts gratuits mais dont les manches seraient trois fois trop longues, je me dis que les gens qui en porteraient seraient quand même en train de réfléchir à des stratégies pour les replier, mais là tout le monde se promène avec les manches qui trainent par terre.
@martin @joachim je voudrais pas être déprimant-du-dimanche-soir, mais il n'est pas complètement impossible que les personnes qui utilisent ces horreurs telles quelles ne réalisent pas vraiment à quel point elles sont non-fonctionnelles. Et donc c'est considéré comme "suffisamment bon" (à plus forte raison si ça a l'avantage d'être facile et pas cher, et que de toute manière "tout le monde utilise l'IA aujourd'hui")
@yhancik c'est précisément ce que j'ai tant de mal à croire — j'ai tout le temps envie de dire "mais ça te gêne pas les manches qui traînent par terre ?? Tu veux pas les couper ou quoi ? — Non c'est bon tkt"
@martin @yhancik c'est devenu un style les manches qui traînent par terre. Ça montre que les gens font partie du club.
@martin @yhancik Pour continuer dans les analogies j'aime beaucoup l'analyse de Norman Ajari pour comprendre l'attrait irrationnel pour l'IA. Pour lui cet attrait s'inscrit dans une continuité culturelle coloniale. Sa thèse est qu'on ne peux pas comprendre l'esclavage que d'un point de vu économique, il faut aussi prendre en compte l'aspect psychologique de la jouissance de posséder des êtres humains. L'attrait pour l'Ia résidant dans cette logique, une sorte de simulation d'esclave. (1/2)
@martin @yhancik On lui demande de répondre à nos moindres désirs, l'important n'est pas la qualité du résultat mais simplement la sensation d'avoir du pouvoir sur un objet anthropomorphique. L'IA s'avère être une sorte de forme légale pour goûter quel effet ça produit de posséder un humain. Il note aussi que ce n'est pas un hasard si les plus plus grands promoteurs de l'IA sont des blancs originaires d'Afrique du sud (Thiel, Musk) du bon côté de l'apartheid. (2/2)
@martin j’ai pas de conclusion à ce que je vais ajouter mais je suis de ton avis et ça m’y a fait penser : récemment des médecins (des gens avec un très haut niveau de connaissances et de technicité) disaient "oui c’est vrai que ça marche plutôt bien c’est fou, si on rentre le bon prompt ça donne des protocoles qui tiennent la route" et c’est que quand j’ai pointé que de fait ça n’offre aucun intérêt : ils connaissent les protocoles adaptés et la machine ne propose rien de mieux et en plus faut lui donner le bon prompt pour que la réponse soit correcte, qu’ils ont réalisé qu’en fait c’est juste tester les compétences de la machine et donc inutile…
@unluckyhaircut @martin merci, c’est exactement mon sentiment souvent : « ok mais a quoi bon ? »
@martin @joachim Exactement. J'ai un groupe d'étudiant qui a clairement fait son diaporama avec un LLM et de la genAI pour ses illustrations.
1er effet : ça claque. Puis au bout de 3 s:
- le discours est artificiel, l'illustration n'est même pas utilisée dans la présentation
- l'illustration explique absolument n'importe quoi
- mais le discours lui-même c'est n'importe quoi en fait ?
@martin @joachim Le pire : ils avaient l'air de se débrouiller sur le sujet sans avoir besoin d'IA, mais chatGPT les a tellement embrouillés qu'ils n'ont ni réussi à terminer leur analyse QGIS (bloqués sur les retours du LLM alors qu'il fallait juste explorer 5 min les données) et ni à presenter correctement leur travail alors que je leur avais répété une 10aine de fois l'articulation attendue (ils ont préféré la merde pondue par le LLM...)
@martin Sur la machine a tee-shirt gratuits : J'en connais personnellement, iels en sont à un stade où iels envisagent une chirurgie pour se raccourcir/rallonger les bras à chaque nouveau tee-shirt, voir qui feraient tout pour mettre un pantalon sur le torse : Après tout "Il est sorti de la machine à tee-shirt" et moi j'y connais rien je l'utilise même pas chuis pas dans l'air du temps   @joachim
@martin @joachim j'aime bien l'image du t-shirt 👕
@martin @joachim

C'est toujours pareil: c'est non-fonctionnel pour toi qui es expert du milieu. Pour toustes les autres qui n'y connaissent rien, c'est acceptable
@joachim @martin Et si le client se plaint de la qualité, eh bien c’est parce que nous ne sommes pas des traducteurs-réviseurs compétents, et non parce qu’on nous a donné une demi-heure pour réviser 2000 mots qu’un pigiste a fait traduire par DeepL sans ne serait-ce qu’y passer Antidote avant de nous le renvoyer!

@joachim @martin

C'est pas gratuit, c'est offert comme les premières doses de crack.

Il faudrait des abonnements à quelques centaines / milliers d'euros par mois pour que ce soit rentable actuellement.

@martin Il me faut littéralement plus de temps pour remanier un texte « prétraduit » par l’un ou l’autre de nos systèmes d’IA que si je l’avais traduit moi-même dès le départ. Je refuse de niveler mon travail par le bas. S’il fallait que mon nom soit associé à une traduction que je considère n’être que passable, j’aurais trop honte. Pourtant, je n’ai pas le choix. C’est déjà beau si les pigistes ont même relu la traduction de l’IA avant de nous la renvoyer…

C’est épuisant. C’est abrutissant.

@martin c’est quoi un LLM?
@martin @starslibe large language model. En gros c'est une machine qui fait des probabilités et "devine" des suites de mots en fonction des mots autour, en fonction de référentiels qui lui ont été fournis. C'est comme ça que fonctionnent chatGPT et autres. Du coup ils ne donnent pas une réponse quand on leur pose une question. Ils donnent un truc qui ressemble probablement à la réponse.
@PeryleneBleu @martin merci. De ce que je comprends votre travail avec cet outil vous pose des difficultés. Cet outil dit intelligent est né avec des milliards de connaissances mais sans le savoir-faire.
La bêtise ne peut pas l’épargner, il est une invention humaine.
Avant de pouvoir tous nous remplacer, il doit être collecter le savoir-faire auprès de ses utilisateurs. Certaines sont plus facile à obtenir que d’autres.