Mastodawn

L’IAg n’est pas une fatalité : vous n’êtes pas seul·e https://vincent.jousse.org/blog/fr/tech/l-ia-n-est-pas-une-fatalite/ #ia #iagen

L’IAg n’est pas une fatalité : vous n’êtes pas seul·e

Hier, suite à un post de l’ami Ploum sur Masto qui dénonçait l’absurdité de l’utilisation des LLMs (Large Language Models ~= IA générative ~= ChatGPT, Claude, you name it ~= ce que les gens appellent IA actuellement) pour coder, une personne a répondu :Concernant les LLMs pour la programmation, le débat est clos : oui c'est utile et non, on ne peut plus s'en passer Ça m’a laissé sans voix.Non le débat n’est pas clos, oui on ~peut~ doit s’en passer, et surtout OUI vous n’êtes pas seul·e à ne pas l’utiliser.

Vincent Jousse

Geob-o-matic Mar 5

@vjousse C’est beau putain… je chiale bro

Vincent Jousse Mar 5

@geobomatic 😅🫶

Olivier Leroy Mar 5

@vjousse bon article pour ceux qui code dans des domaines avec des contraintes: le code, son historique doit rester accessible X années (c est la loi) l'IAg rajoute aussi des pbs.

@vjousse juste un point de détail, il n'y a pas que les américains qui proposent des IAg cf Mistral qui je crois sauf erreur est français

@vjousse sinon d'accord avec tout le reste 😁

Vincent Jousse Mar 5

@Fabbat merci pour le retour c’est corrigé !

Pascal Le Merrer Mar 5

@Fabbat @vjousse
Mistral est une entreprise Française en effet, mais qui a conclu un partenariat avec Microsoft

https://news.microsoft.com/fr-fr/2024/02/26/microsoft-et-mistral-ai-annoncent-un-nouveau-partenariat-pour-accelerer-linnovation-en-intelligence-artificielle-et-devoilent-mistral-large-disponible-des-a-present-sur-azure/

@vjousse merci, on a besoin de ce genre d'article pour effectivement se sentir moins seul·e·s

petite question au passage, comme ça se passe chez beta.gouv pour les devs qui ne veulent pas utiliser de LLM ? j'ai répondu à une offre la semaine dernière, et la première question c'était genre "utilisez vous les IA dans votre travail ?"... 😬

Vincent Jousse Mar 5

@nabnux pour ceux qui sont déjà dans Beta Gouv, je crois pas qu’il y ait trop de souci (en tout cas j’ai pas eu de remontées de ce type dans mon entourage).
Pour ceux qui veulent y rentrer, je pense que ça doit dépendre des équipes vu qu’à ma connaissance ya pas de directives qui interdisent l’utilisation de l’IAg.

@vjousse Merci pour cet article ! L'argument de productivité est aussi le plus effrayant. Une entreprise de développement logiciel doit vendre à des clients avec des contraintes budgétaires. À un moment, il y a une limite. C'est donc beaucoup moins de développeurs qui vont « vibe-coder » à la chaîne ? Les développeurs qui codent uniquement avec les LLMs sabotent finalement la profession et se mettent peut être eux-mêmes en péril. Le résistance est indispensable.

Vincent Jousse Mar 5

@magentix oui mais je comprends que tout le monde n’ait pas le privilège de pouvoir dire non (on a tous des contraintes). Je pense qu’en effet va y avoir une mode de vibe coding à la chaîne d’apps, mais je doute que ça dure car personne ne pourra être tenu responsable/comprendre le code produit pas les IAg. Quand des devs vont finir par répondre c’est pas moi, c’est Claude, je pense que ça va retro pédaler (on aime bien savoir sur qui taper)

@vjousse Merci d'avoir écrit ça, vraiment.
Ca fait tellement de bien de trouver un echo à mon ressentit.

Ce n'est peut-être que passager, mais j'en suis arrivé à un point où pour la première fois depuis le début de ma carrière je me suis interrogé sur la possibilité d'une reconversion.

PaulR 🐻‍❄️Mar 5

@vjousse dans l'ensemble je pense que mes valeurs s'alignent avec ce que tu as écrit. Alors merci de l'avoir fait.

J'ai l'impression qu'il manque (mais c'est normal on ne peut pas parler de tout) une nuance sur "générer des logiciels". Disclaimer: je n'utilise pas d'IAg pour coder moi même, mais je connais des très bons amis qui s'en servent avec du recule++.

Je suis donc en accord avec la prémisse que demander à une IA d'écrire un logiciel sans reflexion humain est une grosse connerie.

1/N

PaulR 🐻‍❄️Mar 5

@vjousse mais par contre je peux comprendre des gens qui s'en servent comme "aide mémoire" (un peu de la même façon qu'on garde la page de doc de son framework préféré toujours ouverte). Ça ne permet pas forcément d'être "plus performant" (comme ces capitalistes veulent faire croire), mais ça peut aider à passer moins de temps devant son ordi (mon rêve, alors que mon métier c'est d'être devant l'ordi...).

Si on recherche des boîtes/initiatives un peu moins crassent (modèles de recherche,

2/N

PaulR 🐻‍❄️Mar 5

@vjousse modèles vraiment open source, "mini-modeles", etc..) et qu'on se donne une hygiène pour utiliser l'IAg, j'ai l'impression que je peux comprendre (ou tout du moins imaginer) pourquoi des copaines puissent s'en servir avec précautions.

Un de mes mentors depuis le début de ma carrière, dont l'opinion (à la fois techno et politique) m'est chère, m'a un peu secoué car j'étais pas d'accord avec lui sur l'IAg (alors que la plupart du temps on est plutôt d'accord).

3/N

PaulR 🐻‍❄️Mar 5

@vjousse mais il m'a bien rassuré en m'expliquant sa démarche.

Dans son équipe de dev, il met donc en place des règles un peu strictes. Par exemple:
- ne pas faire générer quelque chose que tu ne comprends pas. Donc on ne génère que ce que l'on comprends. Et on ne pose pas de questions "ouvertes".
- ne pas faire générer le code ET les tests (toujours soit écrire les tests, soit le code soi même)
- tout ce qui est commité est de la responsabilité de la commiteuse

4/N

PaulR 🐻‍❄️Mar 5

@vjousse (et donc aucune IAg n'a le droit de commiter)
- tout le processus de review et approval humain (pair-review) reste intact. Donc l'humain est maitre de ce qui passe ou ne passe pas.

Bref, tout ça pour dire que comme toutes nouvelles technologies, il y a forcément un peu de bénéfice et que ça ne peut pas être totalement pile ou totalement face. Mais clairement les valeurs portées par l'ensemble de ce monde d'IAg est à vomir, à proscrire et à pleurer. C'est mon plus gros argument

5/N

PaulR 🐻‍❄️Mar 5

@vjousse perso pour ne pas utiliser d'IAg. Mais je ne veux pas me refermer et je garde une oreille tendue surtout envers les personnes dont je fais extrement confiance et dont j'ai une énorme estime (et je ne parle pas du tout de professionnalisme là je parle bien d'estime et de respect humain et personnel).

Continuons d'avoir l'esprit critique et de refuser les "TINA"s. Les alternatives apportent une diversité d'opinion ESSENTIEL dans un monde si mauvais et instable.

Encore merci à toi.

6/6

Vincent Jousse Mar 6

@paulrbr j’aurais beaucoup à dire sur le « on utilise l’IA mais on contrôle tout »… car on sait déjà que ce n’est pas vrai, sinon il n’y aurait aucun gain de temps réel ou fantasmé, juste de la relecture pénible.
Mais oui moi aussi je garde un œil dessus, ne serait-ce que pour pouvoir être suffisamment informé pour produire un contre discours censé ;)

Pascal Le Merrer Mar 5

@vjousse merci Vincent !

@vjousse Une remarque de pinailleuse 🤓 :
études randomisées pas de problème, en aveugle pour l'évaluation de la production ok, mais en double aveugle je vois pas comment on pourrait..

@vjousse alerte coquille :
"code qui a été généré par *un un* automate"

Vincent Jousse Mar 6

@temptoetiam merci pour le pinaillage, j’ai en effet écrit ça par réflexe et ça n’a pas grand sens ^^ C’est corrigé !

@vjousse sympa ! Pour la peine j’ai acheté «Vim pour les humains»

Vincent Jousse Mar 6

Nicolas Lœuillet Mar 6

@vjousse c'est trop long, j'ai demandé à ChatGPT de résumer.

Vincent Jousse Mar 6

@nicosomb espèce de troll ambulant 🤓🤣

@vjousse Merci ce texte qui fait du bien, j'en avais besoin.

Romain Delamare Mar 8

@vjousse merci, ça fait du bien.