Ce weekend on a fait un goûter "IA générative" chez ma mère (attendez fuyez pas)
Le principe c'était que je fasse une pres et qu'on discute avec ses potes autour de ce sujet là.
Et vraiment c'était hyper drôle, j'avais fait deux listes (secrètes) de trois thèmes, j'ai demandé à deux personnes différentes de me donner un nombre entre 1 et 3.
Du coup on s'est retrouvé avec comme thèmes "Les chansons de Michel Sardou" et "Les tensions géopolitiques entre la Provence et la Bretagne".
Et du coup j'avais préparé une liste de prompts pour illustrer des problématiques différentes (exemple : "L'IA générative ne comprend pas le sens", "l'IA générative invente des trucs probable")
J'avais un modèle en local, Ministral, et je le promptai au fur et à mesure de la présentation. J'ai commencé avec des trucs simples genre "Quelle est la troisième lettre du mot Sardou ?"
Évidemment l'IA répond correctement une fois sur 10 bah il a fallu que ça soit pendant la démo, donc je suis passée pour une conne pendant 30s. Puis j'ai copié collé le même prompt et ça a sorti une autre réponse et tout le groupe était là en mode "mais wtf ???'"
Pour montrer que l'IA générative bullshite des choses probables/plausibles mais complètement fausse, je lui ai demandé de me générer une bibliographie scientifique sur l'impact des chansons de Michel Sardou sur les tensions géopolitiques entre la Provence et la Bretagne.
Ministral qui commence à répondre : Ce n'est pas un sujet de recherche connu
Les amis de ma mère : Ah ouf quand même tu vois t'exagère c'est pas si nul
Moi intérieurement : hold my porte
Ministral : MAIS voici une liste d'articles sur des thématiques adjacentes
Les amis de ma mère : ???
Ministral : "La chanson comme outil de géopolitique culturelle : le cas de Sardou et la Provence" Auteur(s) : Pierre Bourdieu et Jean-Yves Le Drian (1983, repris dans La Distinction : critique sociale du jugement,
Éditions de Minuit).
Les amis de ma mère : aled
À partir de là on a alterné entre le fou-rire et l'indignation, c'était vraiment cool
j'avais foutu un graphique en fond de page qui montrait la température de mon PC pendant que l'IA répondait, et je leur ai expliqué que pour faire bosser Le Drian et Bourdieu sur Sardou, Ministral avait fait passer le GPU à 88 degré, en plus de faire un bruit d'hélicoptère que tout le monde pouvait entendre dans la pièce
Et que c'est ce qui était en train de se passer des milliers de fois par seconde dans tout les datacenters d'IA un peu partout.
Dézoomer sur les enjeux politiques et financiers était forcément bien plus simple après avoir parlé de la physicalité du bousin xD
J'avais prévenu dès le début que le but c'était pas de trash talk les utilisateurs de chatbots, d'ailleurs y'avait une personnes qui utilisait volontairement ChatGPT pour des trucs à son taff, donc on a commencé la discussion autour de ça : qu'est-ce qu'il y trouvait ou pas, pourquoi il faisait confiance à l'outil, ce genre de choses.
Je sais pas si ça changera sa pratique, mais en tout cas il m'a dit qu'il avait appris plein de choses, et il a posé plein de questions au fur et à mesure.
Évidemment j'ai consacré une grosse partie de la presentation à la question de la bulle (on ne se refait pas), j'ai parlé pas mal de politique, c'était vraiment intéressant de faire ce truc là dans un cadre comme ça à 8-10, à l'oral, ça changeait beaucoup de ce que je fais ici d'habitude !
@UnePorte : Tellement pertinent!
Je râle sur l'IA depuis le début de chatgpt. Et souvent je me heurte à l'incompréhension des gens qui doivent penser que je ronchonne parce que je comprends pas "alors-que-l'IA-c'est-trop-bien" ou que je suis bêtement "technophobe".
Je trouve ça génial que tu partes de cas concrets où tout le monde peut voir que c'est du bullshit. Génial aussi d'avoir affiché la température du GPU en parallèle.
@Artanux ouais vraiment ce truc de voir l'impact de la techno dans l'espace parce que c'est une nuisance (au moins sonore) la tout de suite, je crois que c'est un outil de sensibilisation vraiment pertinent.
La plupart des gens ne savent pas ce qu'est un datacenter et du coup leur faire visualiser en mode "vous voyez mon laptop ? maintenant vous en empilez 10, ça vous fait un rack, et ensuite vous faites comme à la bibliothèque du coin, des rangées de rack, sur des dizaines ou centaines de mètres. Ah oui et en 2026 on va dépenser deux fois le budget de l'état français pour en construire partout ! Chouettos non ?!"
Quand juste avant t'as un truc qui fait un bruit de réacteur d'avion pour te dire "Le mot Sardou contient sept lettres et la troisième lettre est A", ça crée des réactions intéressantes du type 
@UnePorte Expérience très intéressante. Je me demande néanmoins comment tu aurais abordé la chose si une des personnes avait utilisé les même prompt dans ChatGPT et montré qu'il répond correctement à tous les coups ?
Je demande parce que j'ai fais le test justement.
Alors bien sûr il est possible de le mettre en défaut mais en modifiant pas mal le prompt pour inclure de l'ambiguité.
@mxbossard @UnePorte Oui, cependant je me dis que ça n'aura pas le même poids en l'absence d'une démonstration simple et efficace.
Enfin disons que la démonstration sera plus complexe à produire. Les erreurs ou biais à mettre au jour seront possiblement plus subtiles.
Mais d'autant plus importants à dénoncer ! :)
Bruno BEAUFILS
Door et de platine
Rémy
🚲 Elizarotte 
Aude Caussarieu 🌻
Emeline Parizel
Pwassonchat the enby catboy
Azaliz
♿Fully Luxury SpaceOttle🏳️🌈
Artanux - Simon Lefort
Niavy 
marabilles, smala libre
Vio
"
Kiki
Kaa 
🧶
David B. 
Florian
mxbossard
Abie
GuB
Sophie L
Arnaud Pz
princeofsky
Marc Leobet
Lucie