Ce weekend on a fait un goûter "IA générative" chez ma mère (attendez fuyez pas)

Le principe c'était que je fasse une pres et qu'on discute avec ses potes autour de ce sujet là.

Et vraiment c'était hyper drôle, j'avais fait deux listes (secrètes) de trois thèmes, j'ai demandé à deux personnes différentes de me donner un nombre entre 1 et 3.

Du coup on s'est retrouvé avec comme thèmes "Les chansons de Michel Sardou" et "Les tensions géopolitiques entre la Provence et la Bretagne".

Et du coup j'avais préparé une liste de prompts pour illustrer des problématiques différentes (exemple : "L'IA générative ne comprend pas le sens", "l'IA générative invente des trucs probable")

J'avais un modèle en local, Ministral, et je le promptai au fur et à mesure de la présentation. J'ai commencé avec des trucs simples genre "Quelle est la troisième lettre du mot Sardou ?"

Évidemment l'IA répond correctement une fois sur 10 bah il a fallu que ça soit pendant la démo, donc je suis passée pour une conne pendant 30s. Puis j'ai copié collé le même prompt et ça a sorti une autre réponse et tout le groupe était là en mode "mais wtf ???'"

Pour montrer que l'IA générative bullshite des choses probables/plausibles mais complètement fausse, je lui ai demandé de me générer une bibliographie scientifique sur l'impact des chansons de Michel Sardou sur les tensions géopolitiques entre la Provence et la Bretagne.

Ministral qui commence à répondre : Ce n'est pas un sujet de recherche connu
Les amis de ma mère : Ah ouf quand même tu vois t'exagère c'est pas si nul
Moi intérieurement : hold my porte
Ministral : MAIS voici une liste d'articles sur des thématiques adjacentes
Les amis de ma mère : ???
Ministral : "La chanson comme outil de géopolitique culturelle : le cas de Sardou et la Provence" Auteur(s) : Pierre Bourdieu et Jean-Yves Le Drian (1983, repris dans La Distinction : critique sociale du jugement,
Éditions de Minuit).
Les amis de ma mère : aled

@UnePorte C'est en ça que c'est saloperies sont pernicieuses et dangereuses. Elles ne peuvent juste pas répondre "c'est des conneries, ça n'existe pas" donc quand elle ne trouve rien, elle fabrique un gloubilbloulga du truc le plus probable. Et c'est pas un bug, c'est le principe même du truc. Les gens qui disent "mais ça s'améliorera avec le temps." Non, c'est la base du fonctionnement des LLMs.