C'est quand même fou qu'avec des machines fondamentalement déterministes (les ordinateurs) ont ait TOUT FAIT pour améliorer le déterministe de ces systèmes (en travaillant sur la fiabilité : builds reproductibles, TDD, vérification d'intégrité, environnements conteneurisés...)...
... et que l'IA arrive comme un chien dans un jeu de quilles, foutant tout en l'air à ne pas répondre deux fois la même chose à la même question.
Comment, en tant qu'informaticien, on peut seulement SOUHAITER ça ?
@sebsauvage En réalité les LLM sont déterministes.
À prompt, modèle, paramètres et seed identiques, ils produisent exactement la même sortie.
Ce qui donne l’impression d’aléatoire vient du sampling probabiliste (temperature, top-p), qui est volontaire pour générer des réponses variées.
Autrement dit, ce n’est pas l’IA qui casse le déterminisme : c’est un choix d’usage. On peut parfaitement rendre la chose entièrement reproductible.
@nicoco C'est ce que j'allais dire.
@YanK Déjà, ces options ne sont pas accessibles aux utilisateurs, faut avoir le LLM en local pour pouvoir les bidouiller. Et puis les modèles commerciaux sont bidouillés de semaine en semaine. Le Grok/ChatGPT 5/etc. d'aujourd'hui ne sont pas les modèles d'il y a un mois, six mois, un an...
@borisschapira @maddyneko Je peux m'inclure dedans pas mal de fois ! Et je ne vois effectivement pas ça comme déshonorant. :) Je ne révolutionnerai pas le monde de l'informatique, mais mes petites connaissances au service de petits besoins ca peut rendre service, et c'est bien comme ça.
Par contre ce qui est fait et proposé est compris (je crois :p )
Et d'ailleurs s'il s'agit de répondre à un besoin "simple" par combinaisons de solutions existantes, je dirais que si on sait faire avec des outils éprouvés et moins impactants alors qu'elle est la pertinence d'utiliser un outil plus coûteux et moins éprouvé comme un LLM ?!
@sebsauvage Je me faisais la reflexion ce matin en faisant le ménage.
Ok ca produit du code, ou autre, au kilomètre. Bon déjà à quel coût, et ensuite quand on sait ce qui le rend possible ... mais quelle solution de bourrins. Zéro élégance, zéro intelligence dans la mise en oeuvre.
@sebsauvage
C'est simple : on ne souhaite pas ça.
Je me suis "amusé" à effectuer des tests avec cette crasse de chatgpt sur des éléments que je connais. Résultat : à minima 75% de réponses totalement foireuses et semi-aléatoires.
Et encore, ces 75%, c'est gentil hein.
J'avoue que ce qui m'interroge le plus c'est de voir une grande partie de la communauté informatique aller à fond dedans (en tout cas c'est une impression, je suis pas dedans professionnellement).
Ça c'est vraiment un phénomène que je ne comprends pas...
C'est conscient ? inconscient ? avec quelle part d'aveuglement volontaire ?
Ça me dépite un peu beaucoup. Comment lutter sans cette communauté avec nous ?
ouais en fait comme n'importe quel autre secteur quoi 😢
Parce qu'il y a beaucoup de dev qui ne faisait Ue copier coller du code "qui marche" d'un point A à un point B sans vérifier que le contexte est le bon.
Et l'industrie du dev a tellement habitué les utilisateurs à ce que ça casse souvent lors des mise en prod que ça yolo dans tout les sens.
DP0
sebsauvage
Augier (fr & en) 🇵🇸🇺🇦☭🏴
Xalofar shylisé ⚰️
YanK l'Innommé
Nicoco
Poslovitch
Breizh
Mad
Hibou Chachara
Florian
matp92
Capitaine Maïtri
Riff
Quentin Ruyant
Un Bourguignon
Clovis
RaphM ⏚
Tomaz 🔨
JulesVerne
Zoidberg For President
Aedius Filmania ⚙️🎮🖊️
Paco Velobs