MartinC'est dimanche soir, une mild take sur l'IA avant d'aller me coucher : ayant été, en tant que traducteur, obligé de bosser avec les LLM depuis qu'ils existent, (a) je reste ahuri que tant de gens le fassent de leur plein gré, voire avec enthousiasme, mais du coup (b) j'aurais cru qu'à ce stade, on serait en train de discuter des difficultés concrètes inhérentes au travail avec les LLM, je veux dire l'attention constante qui est requise pour repérer et corriger leurs conneries, la difficulté à recalibrer son attention face à des problèmes très différents de ceux qu'on rencontre en supervisant le boulot d'un humain (tout le monde dit "les IA c'est comme un junior/stagiaire", ce n'est pas mon expérience du tout — les LLM disent n'importe quoi d'une manière très différente d'un humain incompétent).
Ça fait des années que j'essaie de produire des textes corrects à partir de traductions machine, c'est éreintant, vraiment c'est une des tâches les plus pénibles intellectuellement que je connaisse, et le résultat n'est jamais mieux que passable. Je n'arrive tout simplement pas à croire que tant de gens se disent "Ah trop cool ça ira bien comme ça allez hop".
Joachim
@joachim le truc c'est que de mon point de vue c'est pas médiocre, c'est non fonctionnel. Quand ton illustration est activement laide, quand tes phrases sont vides, je comprends pas ce qui pousse à se dire "ah oui, c'est bien". S'il y avait une machine à faire des t-shirts gratuits mais dont les manches seraient trois fois trop longues, je me dis que les gens qui en porteraient seraient quand même en train de réfléchir à des stratégies pour les replier, mais là tout le monde se promène avec les manches qui trainent par terre.
a.@martin j’ai pas de conclusion à ce que je vais ajouter mais je suis de ton avis et ça m’y a fait penser : récemment des médecins (des gens avec un très haut niveau de connaissances et de technicité) disaient "oui c’est vrai que ça marche plutôt bien c’est fou, si on rentre le bon prompt ça donne des protocoles qui tiennent la route" et c’est que quand j’ai pointé que de fait ça n’offre aucun intérêt : ils connaissent les protocoles adaptés et la machine ne propose rien de mieux et en plus faut lui donner le bon prompt pour que la réponse soit correcte, qu’ils ont réalisé qu’en fait c’est juste tester les compétences de la machine et donc inutile…
@martin donc c’est pas que c’est médiocre c’est que ça répond à un problème qui ne se pose pas (je tiens à préciser que les médecins en question n’utilisent pas actuellement les LLM pour cet usage mais c’était une discussion en réaction au fait que des patients vont chercher des réponses que les médecins n’auraient pas avec les LLM et qu’ils ont pu tester comment ça fonctionnait par curiosité)
Couscous@unluckyhaircut
baaaaah... c'est pas précisément ce pour quoi les IA sont vendues ? fournir une réponse mauvaise à des gens qui ne savent pas ce qu'est une réponse valable (au dépens de chaque spécialiste de que les IA touchent, qui savent parfaitement à quel point ça déconne mais dont le taf ne devient plus que de corriger cet outil à donner du pouvoir aux gens qui ne savent pas quoi en faire mais en tirent de la satisfaction)
@unluckyhaircut
je me souviens précisément de mes premières années de batterie, et surtout quand j'étais revenu à des morceaux que j'avais repris à mes débuts (tout à fait satisfait de moi), et à ce moment là j'ai réalisé que je n'avais littéralement pas entendu des tonnes de finesses dans ce que j'écoutais... littéralement mon incompétence était un point aveugle dans ma perception
et je trouve logique qu'une société qui produit de la médiocrité pousse les gens à de fier aux IA
@martin
Mimi@couscous @unluckyhaircut @martin
Bonjour,
Il y aurait aussi un biais à évaluer (et si l'on n'en a pas les moyens ça ajoute encore à la parano systématique à déployer sur chaque réponse d'IA, démontrant encore plus que c'est de la perte de temps quand ce n'est pas de la désinformation via "hallucinations" ("délires" serait plus ... idoine) : les réponses d'emblée volontairement biaisées et/ou à pertinence minimisée voire anihilée par le vendeur du service pour pousser sa clientèle à cracher au bassinet afin d'avoir "la version pro", "plus intelligente", etc. avec, en plus, des popup de pub pour le leur "rappeler".
@couscous @unluckyhaircut @martin
Je voudrais revenir aussi sur l'adjonction des LLM dans les interfaces d'applis de traductions automatiques :
Outre les délires et autres conneries liées à l'apprentissage des LLMs, les dégradations volontaires de la qualité des résultats dans un but de rançonnage sont aussi beaucoup plus présents aujourd'hui que ce qu'on obtenait d'eux avant l'IA.
Je me souviens d'avoir utilisé le "Google Translate" pour me faire une idée des grands textes à traduire afin de gagner un peu de temps parce que ça donnait quand même un squelette fiable et assez peu de contresens bien que ça ait été une belle source de perversions du français tant par la ponctuation anglaise qui ne correspond pas toujours à celle du français (p.ex. pas de virgule avant une conjonction de coordination, etc.) que par l'emploi littéral des termes anglais comme s'ils avaient toujours la même signification en français, ce qui est souvent faux et qui nous a imposé des dérives barbares comme sociétal à la place de social, performance à la place de spectacle, déconstruction à la place de démontage ou démolition (c'est pas du tout pareil) et plein d'autres débilités passées dans le langage écrit courant grâce à l'ignorance+incompétence des rédacteur.ices qui se sont ensuite replié.e.s derrière un snobisme ridicule pour maintenir leurs conneries et surtout pour continuer à ne pas se relire après avoir fait un travail de sagouins.
Aujourd'hui je n'utilise même plus ces traducteurs automatiques, tous, parce que non seulement grammaire et orthographe sont toujours aussi régulièrement massacrées avec pour résultat l'introduction permanente de confusions dans le français lui-même comme s'il y avait la volonté de le détruire mais en plus les contre-sens sont devenus si fréquents et si bien maquillés par l'IA que ça en exige de revoir tout le source mot par mot pour arriver à pondre un texte traduit raccord avec son signifié original. => Ici, "l'apport de l'IA" c'est clairement le confusionnisme, la désinformation et la perte de temps. Je soupçonne d'ailleurs et en plus l'existence dans les LLMs de règles cherchant à traduire à l'inverse de ce qui est originellement écrit quand ça concerne "certains sujets sensibles" tels que Gaza, Epstein, etc., chose qui, évidemment, n'arrange rien et qui m'inquiète sur la diffusion automatique des intox chez et par les journaleux les plus paresseux et/ou "neurologiquement déficients" ainsi que sur la pollution que ça implique dans la tête des gens faisant confiance à ces systèmes automatiques pour croire extraire la signification de textes d'une langue leur étant totalement inconnue : c'est comme rouler dans une caisse dont on sait que la colonne de direction est cassée, peut refuser de répondre à n'importe quel moment et ce sans prévenir. Ça ne peut pas louper et l'effet de masse induit me fait peur.