rakoo
Haelwenn /элвэн/ 
@rakoo Dommage que ça à été fait par IA https://casier-politique.fr/about
Namu@molusk @lanodan
tu vois, tu es obligé de croire que ce que dit le site est vrai pour peut-être penser que c'est ok. Une techno à laquelle on doit croire sur parole ses créateurices est à jeter sans se poser de questions
Il y a tellement de pbs avec les LLMs que quand il y a un aspect acceptable on se dit que ça peut être ok. Qu'en est-il des conditions d'apprentissage qui sont rien d'autre que de l'exploitation des pays pauvres ? Qu'en est-il de l'impact écologique horrible nécessaire pour que les LLMs existent ? Les biais inhérents à l'apprentissage ? La dépendance à des acteurs capitalistes pour le matériel ? Les impacts cognitifs, sociaux, l'orientation politique d'une technologie basée sur l'exploition et la domination que les modèles comme celui utilisé promeuvent ?
C'est quoi le monde dans lequel des expert.es ont tout le pouvoir, 0 responsablités et promettent que tout ira bien promis promis utilisez notre technologie ?
tu vois, tu es obligé de croire que ce que dit le site est vrai pour peut-être penser que c'est ok. Une techno à laquelle on doit croire sur parole ses créateurices est à jeter sans se poser de questions
Il y a tellement de pbs avec les LLMs que quand il y a un aspect acceptable on se dit que ça peut être ok. Qu'en est-il des conditions d'apprentissage qui sont rien d'autre que de l'exploitation des pays pauvres ? Qu'en est-il de l'impact écologique horrible nécessaire pour que les LLMs existent ? Les biais inhérents à l'apprentissage ? La dépendance à des acteurs capitalistes pour le matériel ? Les impacts cognitifs, sociaux, l'orientation politique d'une technologie basée sur l'exploition et la domination que les modèles comme celui utilisé promeuvent ?
C'est quoi le monde dans lequel des expert.es ont tout le pouvoir, 0 responsablités et promettent que tout ira bien promis promis utilisez notre technologie ?
NicolasDumoulin@rakoo @molusk @lanodan ça mérite réflexion. Maintenant ça veut dire que tu vas rejeter les films en image de synthèse (le rendu nécessite aussi des grosses ressources), voire même le streaming.
Ça me paraît intéressant de discuter l'utilisation d'un LLM (algo) sur des données libres pour construire de la connaissance.
Sur ce point, je pense que le faire à la main aurait le mérite de mieux garantir le résultat (j'ai pas regardé le protocole).
Ça me paraît intéressant de discuter l'utilisation d'un LLM (algo) sur des données libres pour construire de la connaissance.
Sur ce point, je pense que le faire à la main aurait le mérite de mieux garantir le résultat (j'ai pas regardé le protocole).
@NicolasDumoulin @molusk @lanodan ah oui, les fameux datacenters de la taille de Manhattan qu'il a fallu construire pour faire les effet spéciaux de Jurassic Park, oui oui on parle bien des mêmes ordres de grandeur
Construire de la connaissance, oui, absolument. D'ailleurs ya pas mal de connaissance qui a été construite sur l'écosystème des IAs et des LLMs, ça serait bien d'en prendre compte aussi, particulièrement sur l'aspect social/politique
Construire de la connaissance, oui, absolument. D'ailleurs ya pas mal de connaissance qui a été construite sur l'écosystème des IAs et des LLMs, ça serait bien d'en prendre compte aussi, particulièrement sur l'aspect social/politique
@rakoo @NicolasDumoulin @lanodan un podcast que j'ai écouté l'an dernier, je pense que c'était un de ceux de Victoire Tuaillon, relayait la pensée d'une femme dont j'ai oublié le nom (n'hésitez pas si vous le connaissez, j'aimerais pouvoir y faire de meilleures références...) qui proposait de se demander pour chaque nouveau produit qu'on nous propose, "qui est exploité ?".
Que le produit soit Jurassic Park, un LLM, une voiture ou un scanner médical, les petites mains en bout de chaîne ne profitent jamais de ce "progrès". Alors en est-ce vraiment un ?
gomli@rakoo @molusk @lanodan
Complètement..
Un rappel que le concept d'IA LLM éthique est une chimère (si on entend par éthique la non exploitation humaine - ce qui me semble être la base..). L'article de @lafourmi dont je fait référence est super :)
https://piaille.fr/@gomli/116161645087527193
EDIT: je viens de voir tous les autres commentaires minimisant ou du genre "mais y'a pas ke".. (et je sais plus qui me disait, t'inquiète tout le monde est au courant..)
Vous irez expliquerez vos arguments de privilégiés blanc aux centaines de millions d'exploités du sud global (dont ceux de nos colonies à madagascar), iels seront ravis de l'entendre..
gomli (@[email protected])
@[email protected] @[email protected] @[email protected] Oh, enfin un article digne de ce nom à ce sujet, fouillé, étayé, avec les développements récents, merci pour ce partage ! :) (et merci à dufduf pour l'écriture de cet article :) J'ai fait des recherches sur les boîtes d'annotation à Madagascar, c'est pas mal dans le genre.. https://piaille.fr/@gomli/116155995362152194
La fourmi dans la coquille@gomli @rakoo @molusk @lanodan
Dans mon domaine (la prod de films d'animation), "les gens" ont associé le mot éthique à "entrainé sur des données pas volées".
Ça me rend fou, on en est là ? c'est ça l'éthique ? Le respect de droits d'auteurs que de toute façon les ouvriers du film ne touchent pas ?
Du coup je ricane quand on découvre que soit ces IA "éthiques" ont triché, soit juste ça marche pas (assez bien).
Bref.
De toute façon, j'ai jamais vu aucune IA *vraiment* éthique.
@rakoo @lanodan premièrement je parle de le relativiser, pas le légitimer. Dans ce cas, l'usage de cet outil paraît, pour une fois, répondre à un besoin plutôt qu'à une hype. Le développeur semble avoir choisi la solution LLM la plus éthique possible ce qui est loin de la rendre parfaite mais au moins il n'a pas choisi la facilité.
Ensuite, le fait de devoir croire en les annonces des protagonistes n'est en aucun cas spécifique aux LLMs. Ça fait au moins 40 ans qu'on nous badigeonne de promesses, la tech n'en est qu'une extension et les LLMs le dernier exemple à date. Je pense qu'il est important de toujours être critique vis à vis de ce genre d'annonces.
Ensuite, le fait de devoir croire en les annonces des protagonistes n'est en aucun cas spécifique aux LLMs. Ça fait au moins 40 ans qu'on nous badigeonne de promesses, la tech n'en est qu'une extension et les LLMs le dernier exemple à date. Je pense qu'il est important de toujours être critique vis à vis de ce genre d'annonces.
@rakoo @lanodan mais dans l'ensemble, on est d'accord et je n'attend qu'une chose, c'est que la bulle éclate au plus vite pour que l'impact sur les populations soit le plus faible possible. Malgré tout, je crains qu'il soit cataclysmique tellement cette solution "magique" s'appuie sur l'extractivisme à outrance dans tous les domaines...
@molusk @lanodan
Justement, l'informatique est un problème rien que sur l'écologie et les llms décuplent le problème, par leur nature même. Peut-être que la meilleure approche à avoir c'est de _ne pas_ les utiliser du coup, surtout qu'il s'agit d'une fonctionnalité nouvelle, pas nécessaire, pas obligatoire.
Je parle bien de légitimer parce qu'utiliser une alternative c'est valider le sujet de fond et changer les pourtours. Utiliser firefox c'est éviter Chrome mais légitimer le web ultra complexe, par exemple. Utiliser un llm entraînée sur du texte ouvert, c'est moins pire qu'utiliser chatgpt, mais c'est valider le champ derrière.
Justement, l'informatique est un problème rien que sur l'écologie et les llms décuplent le problème, par leur nature même. Peut-être que la meilleure approche à avoir c'est de _ne pas_ les utiliser du coup, surtout qu'il s'agit d'une fonctionnalité nouvelle, pas nécessaire, pas obligatoire.
Je parle bien de légitimer parce qu'utiliser une alternative c'est valider le sujet de fond et changer les pourtours. Utiliser firefox c'est éviter Chrome mais légitimer le web ultra complexe, par exemple. Utiliser un llm entraînée sur du texte ouvert, c'est moins pire qu'utiliser chatgpt, mais c'est valider le champ derrière.
Barijaona Ramaholimihaso@barijaona @lanodan le pb c'est pas juste les erreurs potentielles, c'est l'idéologie de domination et d'exploitation que promeut l'écosytème de l'ia
@rakoo @lanodan Je me considère parmi les plus sceptiques et méfiants au monde par rapport à l’«IA » (noter l’usage de guillemets), mais comme beaucoup de technologies, on peut en avoir une approche béate ou plus vertueuse.
Il me semble que l’on n’est pas dans la pire ici :
https://apertus.click/
@barijaona @lanodan
Le danger c'est que cette technologie, comme beaucoup d'autres, n'est pas juste problématique quand on l'utilise mais quand elle existe. Parce que son existence, son utilisation dans la société, son évolution ne sont pas décidées démocratiquement. L'exemple classique c'est la voiture: c'est très pratique individuellement, mais au niveau social elle a redéfini la planification du territoire au point qu'elle est devenue obligatoire. Elle a mangé les espaces piétons et repoussé les personnes qui marchent, qui sont en deux-roues, qui ont besoin de place et de tranquilité, dans les marges parfois sans aucune place prévue pour elles (et ces personnes ce sont majoritairement des femmes et des enfants, des personnes handicapées) au profit des voitures.
Toutes les technologies, dès qu'elles existent, on un impact social par leur existence même. Il ne faut pas croire que l'individualité sauve des problèmes, c'est une illusion néolibérale.
Le danger c'est que cette technologie, comme beaucoup d'autres, n'est pas juste problématique quand on l'utilise mais quand elle existe. Parce que son existence, son utilisation dans la société, son évolution ne sont pas décidées démocratiquement. L'exemple classique c'est la voiture: c'est très pratique individuellement, mais au niveau social elle a redéfini la planification du territoire au point qu'elle est devenue obligatoire. Elle a mangé les espaces piétons et repoussé les personnes qui marchent, qui sont en deux-roues, qui ont besoin de place et de tranquilité, dans les marges parfois sans aucune place prévue pour elles (et ces personnes ce sont majoritairement des femmes et des enfants, des personnes handicapées) au profit des voitures.
Toutes les technologies, dès qu'elles existent, on un impact social par leur existence même. Il ne faut pas croire que l'individualité sauve des problèmes, c'est une illusion néolibérale.
@barijaona @rakoo Ce site est "génial".
Open-source… mais y'a aucun téléchargements ou dépôt de sources dessus.
Et le truc pour essayer le chatbot (qui marche pas chez moi au passage) c'est hébergé par publicai.co avec des Terms of Services classique de Silicon Valley (tu es le produit) basé sur ceux de Basecamp, une boite de racistes entre autres choses ( https://en.wikipedia.org/wiki/37signals ).
Open-source… mais y'a aucun téléchargements ou dépôt de sources dessus.
Et le truc pour essayer le chatbot (qui marche pas chez moi au passage) c'est hébergé par publicai.co avec des Terms of Services classique de Silicon Valley (tu es le produit) basé sur ceux de Basecamp, une boite de racistes entre autres choses ( https://en.wikipedia.org/wiki/37signals ).