ClémentJan 30

Plusieurs de mes élèves de 3e ont demandé à ChatGPT quelle orientation ils devaient envisager. Ils ont scanné leurs bulletins et ont demandé ce que l'IA en pensait.

À ceux qui ont plus de 14/20 de moyenne générale, ChatGPT a conseillé de postuler en CAP. À ceux qui ont moins, le logiciel a conseillé de se déscolariser.

À une élève qui demandait comment devenir assistante dentaire, l'IA a carrément inventé une filière de bac pro inexistante.

Voilà à peu près où nous en sommes sur les vertus de l'IA en matière scolaire.

Show threadYanK l'Innommé

@Nosferalis Ce genre de réponses absurdes vient quasi toujours d’un contexte mal défini, et d’un mauvais usage de l’outil.

ChatGPT ne connaît pas le système d’orientation français par défaut :

- pas les règles Éducation nationale,
- pas la différence CAP / Bac pro / voie générale,
- pas les procédures AFFELNET, Psy-EN, conseils de classe, etc.

Si on lui balance juste un bulletin scanné + « Quelle orientation je dois faire ? »
l'IA invente un raisonnement plausible, pas une décision conforme.

Feb 1 at 1:02pmWeb
Show threadYanK l'InnomméFeb 1
@Nosferalis Mais c'est intéressant, on pourrait en faire un travail pédagogique en leur proposant un prompt plus travaillé du style :
Show threadYanK l'InnomméFeb 1

@Nosferalis Tu es un outil d’aide à la réflexion, pas un conseiller d’orientation officiel. Tu ne prends aucune décision à ma place.

Je suis un élève de 3ᵉ en France, dans le cadre de l’Éducation nationale française.

Je vais te fournir :
- mes 3 derniers bulletins scolaires (moyennes, appréciations si utiles),
- mes matières où je progresse / régresse,
- ce que j’aime apprendre et faire,
- mes idées (même floues) pour l’avenir.

Show threadYanK l'InnomméFeb 1
@Nosferalis Ta mission :
- analyser les évolutions et tendances visibles sur les 3 bulletins (sans jugement de valeur),
- expliquer les différentes voies possibles après la 3ᵉ (générale, technologique, professionnelle),
- mettre en lien ces voies avec des profils d’élèves, pas avec une note unique,
- me poser des questions ouvertes pour affiner ma réflexion.
Show threadYanK l'InnomméFeb 1

@Nosferalis Contraintes impératives :
- aucune injonction,
- aucune filière inventée,
- rappeler que l’orientation se construit avec la famille, l’établissement et les professionnels.

Commence par expliquer clairement ce que tu peux faire et ce que tu ne peux pas faire.

Show threadJuan Manuel CabreraFeb 2
@YanK @Nosferalis peut-être vaut-il mieux décrire le système éducatif français aux jeunes/parents plutôt que de fournir un contexte à une machine pour qu'elle devine les bons mots suivants.
Ce qui me choque beaucoup, c'est que le llm n'a rien demandé de plus sur l'élève. Une personne en CIO n'invente pas quand elle ne sait pas, et discute avec l'élève pour cerner ses appétences.
Ce qui me choque le plus, c'est notre propension à faire de n'importe quel objet un fétiche.
Show threadJuan Manuel CabreraFeb 2
@YanK @Nosferalis si la réponse était venue d'un humain il serait pour toujours discrédité.
Avec un humain, chaque nouvel échange vraisemblable ou corroboré accroît la confiance, parce qu'on suppose que l'humain va nuancer sa réponse avec son degré de confiance en elle (en général)
Les llm ne sont pas humains: la véracité des réponses passées ne dit _rien_ de la véracité future, et elles ne vont jamais douter, par nature (puisqu'elles ne "sont" pas)
Show threadJuan Manuel CabreraFeb 2
@YanK @Nosferalis autres points: quel système éducatif connait-il donc par défaut ? Quels autres dérives et biais culturels importons-nous de la sorte ? Où sont allés les bulletins de note une fois scannés par le llm ?
Combien de CO2 pour une réponse dangereuse ?
Nous devrions nous recentrer sur la vrai IA, celle qui améliore le médical ou la recherche sur la fusion (qui ne sont _pas_ des llm dans les deux cas) sans faire bouillir un océan à chaque fois.
Show threadJuan Manuel CabreraFeb 2
@YanK @Nosferalis pardon pour le ton de mes réponses, rien de personnel :) j'ai trois enfants, travaille en informatique et ce sujet m'irrite facilement pour les dérives insensées qu'il provoque à mes yeux.