L’inganno dell’intelligenza artificiale: la mia traduzione del libro di Bender e Hanna in uscita per Fazi il 17 marzo

Tra il 2024 e il 2025 avevo atteso con impazienza l’uscita di The AI Con. How to Fight Big Tech’s Hype and Create the Future We Want di Emily M. Bender e Alex Hanna: il loro lavoro sulla cosiddetta “intelligenza artificiale” è stato fondamentale per la mia ricerca di dottorato (che si è poi trasformata nel libro Scritture digitali. Dai social media all’IA e all’editing genetico, uscito per Meltemi a giugno 2025) e il loro impegno costante per smontare la propaganda delle aziende che vendono queste tecnologie è più che mai necessario.

Quando mi è stata data la possibilità di tradurre il libro sono stato molto felice, non solo perché questo ha significato renderlo disponibile alle lettrici e ai lettori italiani (e più persone lo leggono meglio è), ma anche perché questo lavoro di traduzione ha aggiunto un tassello importante al mio lavoro di ricerca e alla dimensione di hacktivismo che ne ha sempre fatto parte.

Nessuna tecnologia è neutra, anzi, di più: la tecnologia è politica e scegliere quali dispositivi, servizi e piattaforme usiamo è fondamentale (a proposito, smettete di usare ChatGPT se non volete sostenere Trump e le sue politiche discriminatorie e assassine).

Ma per scegliere in modo consapevole occorre conoscere, andare a guardare cosa sono queste macchine che ci vengono vendute, come funzionano, quali effetti negativi hanno, quali ideologie le sorreggono e promuovono, chi ci guadagna.

Il libro di Bender e Hanna, L’inganno dell’intelligenza artificiale, fa esattamente questo: spiega di cosa parliamo quando parliamo di “IA”, smonta la retorica degli entusiasti e dei catastrofisti (due facce della stessa medaglia), descrive il funzionamento di questi sistemi con innumerevoli esempi pratici e casi in cui sono stati usati (con pessime conseguenze) e, cosa ancora più importante, ci spiega come possiamo difenderci e come possiamo contrastare insieme non solo marketing e propaganda ma anche l’imposizione di strumenti di cui non abbiamo bisogno e che arrecano più danni di quanto non portino soluzioni.

È una lettura fondamentale, a maggior ragione ora che la bolla speculativa sembra sul punto di scoppiare e l’uso dell'”IA” in ambito militare (cioè per ammazzare e distruggere) si sta diffondendo a livello globale.

L’alfabetizzazione digitale comincia anche da qui, dall’informarsi, dallo studiare e capire, per potersi difendere e, come recita il sottotitolo del libro, “per costruire il futuro che vogliamo”.

Emily M. Bender, Alex Hanna, L’inganno dell’intelligenza artificiale. Come difenderci da Big Tech e costruire il futuro che vogliamo, Fazi, 17 marzo 2026

Aggiornamento: abbiamo parlato del libro di Bender e Hanna nella puntata di Hack or die (Radio Città Fujiko) del 17 marzo, che potete ascoltare qui.

#AI #AlexHanna #EmilyMBender #Fazi #IA #intelligenzaArtificiale https://wp.me/pa8vBQ-s2

“Unsituated knowledge” and the lack of a “world model” in so-called “AI”. #111Words #DonnaHaraway #SituatedKnowledges #GaryMarcus #WorldModels #EmilyMBender #AlexHanna #LargeLanguageModels #SyntheticTextExtrudingMachines #AI #UnsituatedKnowledge https://111-words.ghost.io/unsituated-knowledge-and-the-lack-of-a-world-model-in-so-called-ai/

The farther away I get from having read the book The #AI Con: How to Fight Big Tech’s Hype and Create the Future We Want Book by #AlexHanna and #EmilyM.Bender, the more susceptible get to #AIhype.

“ #Metaphors have power, they structure the frames of #discourse, and they can subtly and insidiously encourage certain ways of understanding #technology and the social systems it is embedded in.” - #EmilyMBender & #AlexHanna, #TheAICon: How to Fight Big Tech’s Hype and Create the #Future We Want

“Today’s #SyntheticMediaExtrudingMachines are all based on #datatheft and #laborexploitation, and enable some of the worst, most perverse incentives in each of these attendant fields.” #EmilyMBender & #AlexHanna, #TheAICon: How to Fight Big Tech’s Hype and Create the #FutureWeWant

Text-extruders in my university courses. #111Words #EmilyMBender #AlexHanna #TheAICon #TextExtruders #Teaching #Students https://111-words.ghost.io/text-extruders-in-my-university-courses/

No Encontré Libro: The AI Con, de Emily M. Bender y Alex Hanna

El trabajo oculto que hace que la IA funcione

Alex Hanna y Emily M. Bender analizan el revuelo en torno a la inteligencia artificial en su nuevo libro, The AI ​​Con. A continuación, se presenta un extracto sobre el trabajo invisible que se esconde tras algunas herramientas de IA.

La mayoría de las herramientas de IA requieren una enorme cantidad de trabajo oculto para que funcionen. Este esfuerzo masivo va más allá del trabajo de controlar los sistemas que operan en tiempo real, al trabajo de crear los datos utilizados para entrenar los sistemas. Este tipo de trabajadores realizan una gran cantidad de tareas. Se les pide que dibujen cuadros verdes resaltados alrededor de los objetos en las imágenes provenientes de las transmisiones de las cámaras de los autos autónomos; califiquen cuán incoherentes, útiles u ofensivas son las respuestas existentes de los modelos de lenguaje; etiqueten si las publicaciones en redes sociales incluyen discursos de odio o amenazas violentas; y determinen si las personas en videos sexualmente provocativos son menores. Estos trabajadores manejan una gran cantidad de contenido tóxico. Dado que las máquinas de síntesis de medios recombinan el contenido de internet en texto que suena plausible e imágenes legibles, las empresas requieren un proceso de selección para evitar que sus usuarios vean lo peor que la web tiene para ofrecer.

Esta industria ha recibido muchos nombres: «crowdwork», «trabajo de datos» o » trabajo fantasma » (ya que este trabajo suele pasar desapercibido para los consumidores occidentales). Sin embargo, este trabajo es muy visible para quienes lo realizan. Los trabajos en los que trabajadores mal pagados filtran, corrigen o etiquetan texto, imágenes, vídeos y sonidos existen desde hace casi tanto tiempo como la IA y la era actual de los métodos de aprendizaje profundo. No es exagerado decir que no tendríamos la ola actual de «IA» si no fuera por la disponibilidad de trabajadores bajo demanda.

ImageNet es uno de los primeros y más grandes proyectos que recurrió a trabajadores colaborativos en masa para seleccionar datos para el etiquetado de imágenes. Fei-Fei Li, profesor de informática y posteriormente director fundador del influyente laboratorio de Inteligencia Artificial Centrada en el Ser Humano de Stanford, junto con estudiantes de posgrado de Princeton y Stanford, se esforzó por crear un conjunto de datos que pudiera utilizarse para desarrollar herramientas de clasificación y localización de imágenes. Estas tareas por sí solas no son perjudiciales; de hecho, la clasificación y localización automatizadas podrían ser útiles, por ejemplo, en cámaras digitales que enfocan automáticamente los rostros en una imagen, o en la identificación de objetos en una línea de montaje de fábrica en constante movimiento, de modo que un trabajo físicamente peligroso pueda sustituirse por uno realizado a distancia.

Rest of World

Site del Libro no está online!

Podcast Mystery AI Hype Theater 3000 con Emily M. Bender y Alex Hanna

El site de los podcasts con las transcripciones en inglés

Algo más que NO encontré por ahí

#AlexHanna #EmilyMBender #inteligenciaArtificial #trabajadores #trabajoInvisible

The New York Times publishes a list of ten white men “behind the modern artificial intelligence movement”. #111Words #NewYorkTimes #JEdwardMoreno #AI #ErasingWomen #WhiteCentered #MaleCentric #EmilyMBender #TimnitGebru https://andrewjshields.blogspot.com/2023/12/the-new-york-times-publishes-list-of.html