Eric Maugendre en françaisMar 31, 2024

"Là où on pense qu’il n’y a que machines et procédures automatiques, il y a en fait des humains qui chopent des tendinites et doivent faire des choix compliqués.[…] Là où on pense que les catégories sont claires, qu’il y a des données et des résultats, on s’aperçoit que les données ne sont pas données, qu’il faut les construire et que dans cette construction, entrent de la subjectivité, de la morale et même de la politique."
https://www.radiofrance.fr/franceinter/podcasts/le-code-a-change/le-code-a-change-6-5342040

#Justice #IA #French #data #juger #anonymisation #France #données #viePrivée

Les dames de l'algorithme

L'histoire d'un groupe "d'annotatrices" qui entraînent un programme d'IA sur un programme d'anonymisation automatique des décisions de justice qui doivent maintenant être accessibles à tous.

France Inter
Show threadEric Maugendre en françaisAug 22, 2024

"En opposition avec l’automatisation du traitement de grand jeux de données qui prévaut actuellement, l’analyse causale affirme que toute conclusion statistique est assujettie à un ensemble d’hypothèse sur les relations causales entre les variables – hypothèses qui ne peuvent être formulées que par un humain ayant des connaissances extérieures sur la signification de ces variables et les relations qui les lient."

Leo Varnet : https://dbao.leo-varnet.fr/2021/09/04/etudes-statistiques-les-limites-du-controle/

#causes #biais #stats #data #controle #science #technologie #méthode #méthodologie #IA #démontrer #citation #citations #éthique #préjugés

Études statistiques : les limites du contrôle | DBAO | Léo Varnet

Show threadEric Maugendre en françaisNov 16, 2024

Dans les enquêtes en sources ouvertes, il suffit parfois d'un peu d'imagination pour dénicher des informations ultra sensibles : https://www.radiofrance.fr/franceculture/podcasts/recits-d-enquete/revelations-strava-comment-le-monde-a-traque-emmanuel-macron-joe-biden-et-vladimir-poutine-3400348

#Strava #sécurité #traçage #défaut #numérique #éducationAuNumérique #formation #options #réactivité #Elysée #Macron #Biden #présidence #géoLocalisation #logs #historique #cyberSécurité #cyber #réseau #internet #téléphone #portable #jogging #running #courir #SourcesOuvertes #Justice #juger #anonymisation #France #données #viePrivée

Révélations Strava : comment Le Monde a traqué Emmanuel Macron, Joe Biden, et Vladimir Poutine

La sécurité des présidents est une chose très sérieuse. Mais l’enquête signée Sébastien Bourdon démontre qu’il y a de sérieux trous dans la raquette. Une enquête en sources ouvertes "cas d'école" : il suffit parfois d'un peu d'imagination pour dénicher des informations ultra sensibles.

France Culture
Show threadEric Maugendre en français

À propos du mythe d'une science objective :
« L'idée (erronée) semble être que toute hypothèse - quel que soit son caractère sectaire - peut être postulée et testée en toute sureté parce que la "méthode scientifique" élimine les contre-vérités et laisse subsister les vérités. Cette démarche masque deux prémisses fausses et importantes : les hypothèses elles-mêmes seraient neutres en termes de valeurs, et nous disposerions de ressources illimitées pour réfuter les mauvaises idées. »
… écrit Iris van Rooij (en) https://irisvanrooijcogsci.com/2024/03/03/the-myth-of-value-free-science/ 🧵

#science #technologie #méthode #méthodologie #IA #biais #académie #éthique #préjugés #racisme #sexisme #recherche #sciences

The myth of value-free science* 

Perhaps one of the most persistent myths in science—one that also pervades public perception of science—is that it provides a value-free method to arrive at objective Truth, with a big ‘T’. This my…

Iris van Rooij
Feb 23, 2025 at 4:02pmWeb
Show threadEric Maugendre en françaisApr 21, 2025

« Lorsque ChatGPT résume, il ne fait en réalité rien de tel. »

« Si j'ai 35 phrases de circonstances menant à une seule phrase de conclusion, le mécanisme LLM - simplement en raison de la façon dont le mécanisme d'attention fonctionne avec le volume de ces 35 phrases - trouvera que les 35 phrases moins pertinentes sont plus importantes que la seule phrase clé. Dans un tel cas, il supprimera donc activement la phrase clé. »

par Gerben Wierda (en) https://ea.rna.nl/2024/05/27/when-chatgpt-summarises-it-actually-does-nothing-of-the-kind/

#probabilités #risque #LLM #ChatGPT #IAGénérative #résumer #résumés #méthode #IA #éthique

When ChatGPT summarises, it actually does nothing of the kind.

One of the use cases I thought was reasonable to expect from ChatGPT and Friends (LLMs) was summarising. It turns out I was wrong. What ChatGPT isn’t summarising at all, it only looks like it…

R&A IT Strategy & Architecture
Show threadEric Maugendre en françaisDec 1

"L’ouvrier surveille les gâteaux qui passent devant lui sur un tapis roulant et remet droit ceux qui ne le sont pas. Le post-éditeur, comme on appelle les personnes payées à corriger les textes traduits automatiquement, fait pareil avec les mots."

"La vraie surprise est que beaucoup de personnes semblent ravies de se décharger du fardeau de mettre leur pensée en mots. Voilà ce qui me paraît être le fond du problème, plus que l’outil qui le permet."

https://absolument-tout.net/je-reviens-du-futur/ par @martin

#IA #IAGénérative #création #écrire #travail

Je reviens du futur

IA, batteries, et béton brut.

ABSOLUMENT TOUT
Show threadEric Maugendre en françaisApr 26

« A partir du moment où le numérique, l’IA, les infrastructures critiques s’interposent au coeur des chaînes de valeurs, elles les réauditent à leur profit. Un certain nombre d’entreprises françaises sont en passe de devenir des espèces de sous-traitant d’industries dont la valeur ajoutée est dans le numérique ou dans l’IA et qui vont réauditer les tarifs à leurs profits. »

Henri Verdier à l'Assemblée nationale : https://danslesalgorithmes.net/stream/on-est-tous-en-passe-de-devenir-des-chauffeurs-deliveroo/

#intermédiation #souverainetéNumérique #IA #IAGénérative

« On est tous en passe de devenir des livreurs Deliveroo »

« A partir du moment où le numérique, lIA, les infrastructures critiques sinterposent au coeur des chaînes de valeurs, elles les réauditent à ...