Academic on Trustworthy AI, with a hunch for formal methods. Interpretable AI, formal verification of artificial intelligence systems, and so on.
Developper of the CAISAR platform https://www.caisar-platform.com/
Also, I cook when I'm not doing any OCaml. I look for computing for emancipation, not control.
My opinions are mine alone, no endorsement from my employer.
All my posts are under CC BY-NC-SA: non commercial use and attribution. Don't feed my thoughts to an AI, thanks.
| Research interests | Trustworthy Artifical Intelligence, Formal Methods, doing research well |
| Personal website | https://julien.girard-satabin.fr/ |
| Research group | https://list.cea.fr/en/digital-trust-building-a-more-secure-digital-world/ |
| ORCID | https://orcid.org/0000-0001-6374-3694 |
Par contre, je suis en colère sur la passivité complice des collègues qui ont normalisé l'usage des IAGen dans leurs cursus sans avoir de recul critique. Je suis triste pour les étudiant·es qui vont arriver sur le marché du travail et qui vont être incapables de se poser pour résoudre un problème complexe plutôt que de le résoudre.
D'avoir des étudiant·es à qui on inculque que ce qui marche, c'est d'être un simple relai d'IA et pas leurs réflexions, aussi imparfaites soient-elles.
Je sais que j'arrive après la bataille et que je n'apporte rien de plus que ce qui a déjà été pointé par les recherches et témoignages sur l'impact de l'IAGen dans l'éducation.
L'usage de l'IAGen tend à atrophier la capacité de réflexion et, en parallèle, à retirer toute capacité d'autonomie dans la réflexion.
J'ai galéré dix minutes avec un·e étudiant·e qui n'arrivait pas à me décrire ce que faisait un code généré.
J'en ai vu un autre qui a demandé « je dois faire quoi pour l'exercice 8 ». Et genre:
1. je suis là pour ça, demandes moi!
2. lis la consigne! j'ai passé 4 ans à peaufiner ce TP pour qu'il soit le plus didactique possible et à jour de l'état de l'art
3. tout l'enjeu du TP c'est de te demander ce que tu penses de la sortie d'une IA - demander à une IA de le faire c'est contre-productif!
Pour la version anglaise du billet, se référer à cette page.. La traduction a été effectuée par un·e traducteur·ice professionnelle, Noah Vago. Toute dissimilarité entre les deux versions, volontaire ou non, est uniquement de mon fait. L’arrivée de ChatGPT le 30 novembre 2022 a eu de profondes répercussions. Depuis la mise en ligne par OpenAI de cet agent conversationnel, on ne compte plus les déclarations dithyrambiques sur la capacité supposée de « l’IA » à transformer le monde du travail, nous faciliter la vie et résoudre tout un tas de problèmes (rarement spécifiés). Des sommités scientifiques comme Philippe Aghion, professeur d’économie de l’innovation au collège de France, qui considère que sous condition d’adapter nos institutions (en se demandant ce que signifie le mot « adapter » ici), l’IA peut être un facteur de croissance économique. L’importance de « l’IA » en fait un enjeu stratégique, incontournable, d’où l’organisation en grande pompe du sommet de « l’IA » février dernier. Emmanuel Macron y recevait, entre autres, Elon Musk, chantre autoproclamé de l’IA, qui s’était fendu quelques jours plus tôt de deux saluts nazis en plein public et soutien public au parti allemand d’extrême droite, l’AfD. Les éditeurs de logiciels imposant de manière particulièrement insistante « l’IA » dans leurs interfaces, rendant son utilisation incontournable - plutôt au sens de There is no alternative. Plus anecdotiquement, mon opticien ne manque pas de me demander mon avis sur l’IA et son efficacité, réelle ou supposée. L’usage par les narrateurs de jeu de rôle papier - loisir que j’affectionne - obtiennent des illustrations plausibles et rapidement à l’aide des IA Génératives de Microsoft.
Je suis dans le train de retour après une intervention donné à des étudiant·es d'une école d'ingénieur. Et je ne suis pas content.
L'intervention comptait un TP de trois heures - oui, trois heures un vendredi après-midi, on a survécu ensemble avec ma classe. J'intervenais pour donner une perspective critique sur « l'IA explicable ».