Mastodawn

Ésta es otra con la que os voy a dar la chapa: dejad de hablar de "la IA" y hablad de "el programa que ejecuta tal persona". La IA como ente no existe. No hay Frankensteins entre los informáticos (eso sí que era IA).

Todos (TODOS) los programas informáticos tienen autores y deben ser responsables de qué programas escriben y cómo los escriben. Igual que le damos caña a C++ por no ser seguro en memoria, se la tenemos tenemos que dar a los programas que hacen un mal para la humanidad. Los productos informáticos no son un ente abstracto y divino al que tenemos acceso los mortales. Son productos escritos por personas para otras personas.

Cuando hablamos de "la IA", "la nube", "el blockchain" o "el big data" no estamos hablando de "el programa de OpenAI", "los servidores de Google", "la infraestructura de Bitcoin" o "la información almacenada por Facebook". ¡Uy! Resulta que estos tecno-eufemismos esconden quién tiene la responsabilidad sobre los productos a los que se refieren. Qué extraño, ¿no?

Cuando se habla de que "la IA alucina", se quita toda la responsabilidad a sus autores. No hay una "IA" "alucinando" porque, aparte de que los LLMs están diseñados para únicamente "alucinar", la realidad es que no la han programado para producir resultados fiables. No es cosa de "la IA", sino de sus programadores.

El lenguaje informático está lleno de eufemismos, voces pasivas y técnicas para distraer de la responsabilidad de las empresas. La gente se las ha comido todas con gusto mientras les daban productos gratis (léase: que no cuestan dinero). Tenemos que hablar abiertamente de estos programas relacionándolos directamente con sus autores. Tenemos que hacerlos responsables de sus fracasos al igual que apreciamos sus éxitos.

Todo esto lo digo como ingeniero. Desgraciadamente, muchos compañeros del sector piensan de otro modo y se eximen a sí mismos de toda culpa antes siquiera de enviar su código a producción. Son igual de culpables y es importante decir sus nombres.

Paula 🏴3d ago

@taxorubio pues gracias por la chapita, me parece muy importante todo lo que comentas. No sé qué opinarás, pero quizá el hecho de hablar de "la IA" como ente abstracto, además de eximir de responsabilidad al "enemigo", también nos quita a nosotres la esperanza de poder expropiársela. De hecho, ¿crees que (aunque de manera utópica y poniéndonos imaginativas y soñadoras) puede existir la posibilidad de expropiarles la IA y convertirla en una herramienta a nuestro servicio que nos facilite la vida sin sacrificar la justicia, la comunidad y la dignidad (que es para lo que debería servir cualquier tecnología)? Es algo sobre lo que pienso bastante últimamente, y creo que tu opinión me interesa. Creo que deberíamos expropiarles absolutamente todo lo que les enriquece y empodera a nuestra costa, y quizá "la IA" sea una de esas cosas.

@yoquese @taxorubio Bienvenida sea la chapa!
Es un poco como cuando se hacen aseveraciones sobre 'la política', o incluso 'la naturaleza humana'.

Es una capa perversa de 'universalización' que además de eximir de responsabilidades a les creadores de esas versiones específicas de cosas, impide ver la potencialidad del artilugio como tal, pensar en alternativas, o discutirlo fuera de su marco de implementación. Como si lo disponible fuera lo único posible, y solo elles pudieran ser 'la medida'.

Taxo Rubio:wq 3d ago

@alex_ymas @yoquese Efectivamente. Estoy bastante harto del discurso de "la vida es así" o "¡es el progreso!" como si la innovación fuera excusa suficiente para tirar por la borda cualquier cuestión ética.

El discurso hegemónico al final es un discurso anti-intelectual por necesidad. Si tuviera que enfrentar a la gente contra toda la complejidad que ofusca, sería totalmente inútil.

Taxo Rubio:wq 3d ago

@yoquese No había llegado a tu conclusión sobre la expropiación, pero estoy totalmente de acuerdo contigo. Creo que sí podemos expropiarlas, asterisco.

Las técnicas de inteligencia artificial (lo que realmente es la IA) pueden usarse para cosas muy interesantes. Ahora se las llama "IA clásica", como si fueran un vestigio arcaico de la grandeza que hoy nos rodea (¡já!), pero las seguimos usando a diario. Como ejemplos, puedes usar buscadores de caminos, resolvedores de sudokus, clasificadores de textos, planificadores de acciones. Muchas de esas aplicaciones se pueden programar en una tarde con un poquito de maña (te sorprendería lo sencillos que pueden llegar a ser algunos) y, lo más importante, están diseñados para resolver un problema real.

Los programas generativos no están diseñados para resolver un problema, sino para generarlo a partir de una solución. ¿Por qué íbamos a expropiar un programa que no aporta ningún beneficio a la humanidad sino sólamente "valor" a los inversores? Se ha hablado mucho en los círculos técnicos de que "la IA" ha "democratizado" el acceso a las artes, pero la realidad es que la accesibilidad no es lo mismo que la democratización. aunque guste tanto promulgar este equívoco. No podemos expropiar un sistema que en sí mismo expropia a las personas de su capacidad de gobierno sobre los productos que generan.

Por eso soy tan estricto con el software libre: porque la informática debe pertenecer al pueblo. No podemos expropiar programas diseñados para contraer una relación comercial con su empresa autora, pero sí podemos extinguir su uso a base de cambiarlos por programas que nos respeten como personas y que estén diseñados para solucionar nuestros problemas o facilitarnos la vida.

Paula 🏴3d ago

@taxorubio @taxorubio dios mío, te expresas maravillosamente bien! Pensaré en todo lo que dices, me parece bastante lógico y acertado. Entiendo, pues, que: expropiar IA "clásica", bien, porque es una herramienta con potencial emancipador si dejara de ser monopolizada por grandes corporaciones y empezara a ser autogestionada. La IA generativa, en tanto producto por y para el poder, irremediablemente (o casi) habrá que destruirla y arrojarla al fuego en el Monte del Destino junto al mismo capitalismo. Pero me surge una duda más. ¿Tienen la misma naturaleza todas las IA generativas? ¿No tienen ninguna solución, ni aunque fueran alimentadas de manera ética con información verídica, obras de arte en las que se ha dado consentimiento por parte de les artistas, o en la que se tienen en cuenta las estructuras sociales y de poder? Enserio: es que siento que en el fondo no sé nada sobre la IA y por eso siento que se me escapa de las manos y que no puedo establecer un criterio muy profundo. Y por eso busco respuestas. Jiji sorry si soy un poco chapitas. Si no quieres no tienes por qué responder jajajaja

Taxo Rubio:wq 3d ago

@yoquese Sorry por ser chapitas? Me pides que hable de las cosas que más me gustan del mundo XD Mucho que no te pido la dirección de tu bar para echar toda la tarde hablando (ahora es cuando me dices que no trabajabass en un bar y he quedado fatal).

El tema de la expropiación del software es interesante. Por un lado, el software es teoría matemática, por lo que no pertenece a nadie (excepto por la putas patentes). Si quieres expropiar técnicas de IA clásica, por ejemplo, te basta con aprender sobre ellas. Cuando las entiendes, aunque sea superficialmente, las desmistificas y puedes razonar sobre los programas que ves o usas. Por eso quienes programamos estamos siempre pensando en qué ha podido pasar para que el programa de tal tienda vaya mal un día. Cuando puedes, es divertidísimo.

Por otro lado están los programas que se producen a partir de esa teoría. Ahí tienes dos vertientes: los programas y los servicios. Si el programa es software libre, ya está en manos del pueblo. Si no, habrá que forzar que se libere o reimplementarlo de forma libre.

Sin embargo, el software privativo de hoy en día es SaaS (software as a service) o, como lo llaman en GNU, SaaSS, (service as a software substitute). Es software que no funciona en tu máquina, sino que se conecta a las que controlan sus desarrolladores. Así, ellos inutilizan tu capacidad de cómputo para hacerte dependiente de su producto interno al que llaman "servicio". No hay forma de apropiarnos de esos sistemas porque no están diseñados para que podemos autoalojarlos. En este juego gana siempre quien tiene más capacidad de cómputo. Gana la tecnocracia.

Te cuento todo esto porque los programas generativos requieren cantidades ingentes de capacidad de cómputo, por lo que la única forma de ofrecerla es como SaaSS. El problema es estructural: no podemos democratizarla porque hace falta tal cantidad de almacenamiento y procesamiento que sólo la clase capitalista puede ser su dueña.

vic-tor-menta 3d ago

@taxorubio @yoquese

Taxo no te parece que un estado tiene más recursos (económicos y laborales) que cualquier magnate de hoy en día? O al menos que tiene suficientes recursos?

Lo planteo solo para poder soñar con rrss, chats, mercados (...) gestionados por el estado con una finalidad de servicio, como deberían ser la sanidad o la educación.

Paula 🏴3d ago

@vic_101 @taxorubio pero yo no quiero que lo gestione el Estado ni tampoco magnates y empresas, quiero que lo gestionemos nosotres, colectiva y horizontalmente

Biorreactivo 3d ago

@yoquese @vic_101 @taxorubio ajá, yo tengo continuamente ese conflicto. No quiero expropiación (en el sentido de que la propiedad pasa al Estado), sino colectivización, igual que no quiero gestión estatal, sino colectiva. Ahora bien, como solución menos mala "de momento", admito la propiedad y gestión de un estado gobernado por gente que al menos sea tolerante con la idea de una posible desaparición de esas estructuras verticales. Aunque a veces meto coletilla, en mis toots a menudo tiro directamente por la defensa de lo público y del ¡exprópiese! sin más.

Taxo Rubio:wq 3d ago

@precariousmind @yoquese @vic_101 Yo estoy de acuerdo con Paula aqui. La informática tiene que ser del pueblo para el pueblo. No quiero que mi estado me de una plataforma de chat gestionada. Saldría a la calle con antorchas contra ella, vaya. Quiero que quien quiera pueda alojar su servidor de XMPP y que nos comuniquemos distribuidamente. Quiero que los clientes de correo permitan usar PGP sin tener un grado en ingeniería aeroespacial. Quiero que sea más fácil participar en la vida digital que consumir productos digitales.

Si pasamos de empresas privadas a estados simplemente estamos moviendo la tecnocracia de una élite a otra. Lo que necesitamos es que el pueblo se apropie de los medios de computación.

vic-tor-menta 3d ago

@taxorubio @precariousmind @yoquese

Yo no veo al estado como una élite, sino como la organización colectiva que nos incluya a todos. Al menos es la idea utópica que tengo del Estado y que no es el estado actual de hoy en día

Taxo Rubio:wq 3d ago

@vic_101 @precariousmind @yoquese Respondiendo también a https://neopaquita.es/@vic_101/114365444924635625.

Estoy 100% de acuerdo en que la solución nunca debe pasar por el trabajo individua y debe centrarse en la acción colectiva. Cuando he dicho lo de actuar localmente me refería a actuar en comunidades locales, no de forma individual.

No creo tampoco que el Estado sea inútil en esto. Como mínimo, puede regular la entrada de actores económicos dentro de su área de influencia. Eso lo estamos viendo con la UE y la caña que le meten (de vez en cuando, tampoco nos pasemos) a Facebook y Google. A Amazon no, que luego no sabemos dónde comprar grapas.

Lo que sí creo que es no podemos trasladar toda la capacidad de cómputo de un grupo a otro, sino distribuirla colectivamente. Pero eso no significa que el Estado no pueda hacer nada. Ahora, el día que me digáis que el Estado Español QUIERA hacer algo para alejar la computación de los tecnócratas os lo pondré en duda durante horas porque con el historial que llevan no me lo voy a creer para nada xD

vic-tor-menta (@vic_101@neopaquita.es)

@taxorubio @precariousmind @yoquese@todon.eu No me gusta una solución que ponga la fuerza en el individuo. Prefiero pensar en colectivos que puedan sumar su esfuerzo y utilizar la influencia para crear alternativas.. Pero sobre todo creo que el colectivo más importante sigue siendo el Estado y aunque solo sea para soñar sigo pensando que es la forma más efectiva de conseguir un cambio y pararle los pies a los millonarios y magnates de hoy en día

Neo Paquita

@taxorubio @vic_101 @precariousmind @yoquese (lxs leo y aprendo y sigo pensando cosas y disfruto, gracias a todxs por la conversación)

Biorreactivo 3d ago

@vic_101 @taxorubio @yoquese estoy contigo. Se puede hacer, pero, en un contexto decrecentista asimétrico (es decir, hay clases y sectores que tendrán que decrecer hasta desaparecer, mientras que otros no tendrían por qué), tal vez no valga la pena. La mayor parte de esos centros de datos deberían simplemente suprimirse. Esto no quiere decir que tengamos que renunciar a esos servicios que mencionas, por supuesto. Lo estamos viendo a tiempo real: posiblemente una cantidad mínima de computación se dedica a darnos realmente "servicio". La mayor parte parece estar dedicada a publicidad, criptos, control, genAI, "algoritmos", etc.
Una sociedad más justa, colectivizada y realmente sostenible (en todos los aspectos) posiblemente y tal vez necesariamente incluya un internet universal, pero más parecido al pre-web 2.0 (Mastodon en su variedad menos pesada --sin recomendaciones ni florituras, límite de cargas y toots, etc.-- podría estar ahí).

Taxo Rubio:wq 3d ago

@precariousmind @vic_101 @yoquese Totalmente. La mayoría de trabajo de computación que se hace hoy día es inútil o beneficia únicamente a los tecnócratas. Si eliminásemos toda la broza nos quedaría un subconjunto de programas útiles y eficientes sobre los que construir herramientas muy interesantes.

La única solución que se me ocurre aplicable al día a día es la de "piensa globalmente, actúa localmente": dejar de depender de los programas de las grandes corporaciones para no contribuir a su expansión. Si se os ocurren más, decidme y vemos cómo podemos quitarle más poder a las corporaciones.

vic-tor-menta 3d ago

@taxorubio @precariousmind @yoquese

No me gusta una solución que ponga la fuerza en el individuo. Prefiero pensar en colectivos que puedan sumar su esfuerzo y utilizar la influencia para crear alternativas..

Pero sobre todo creo que el colectivo más importante sigue siendo el Estado y aunque solo sea para soñar sigo pensando que es la forma más efectiva de conseguir un cambio y pararle los pies a los millonarios y magnates de hoy en día

Paula 🏴3d ago

@taxorubio ahora me queda todo mucho más claro. ¡Esta explicación era una de las claves que necesitaba! Gracias por la paciencia y por explicarlo todo tan sumamente bien. Ojalá poder divulgar todo esto de manera fácil y sencilla entre muchxs compas!

Jajajaja y no te equivocas. He trabajado en muchos bares, y desde noviembre llevo sin currar para preparar opos. Pero en septiembre volveré al bar, así que, si vienes a Murcia, eres bienvenido en mi curro y en mi casa

Taxo Rubio:wq 3d ago

@yoquese Mucha suete con las oposiciones! Destrúyelas y álzate sobre ellas! Si vienes por Granada, eres igualmente bienvenida a mi casa

Taxo Rubio:wq 3d ago

@yoquese En mi opinión, los programas generativos son un desastre imperdonable. Lo mejor que podemos hacer es matarlos antes de que pongan huevos.

Incluso si se entrenan con datos recogidos de forma ética y contrastados, su funcionamiento es totalmente estocástico y uso esta palabra porque es la que usa el artículo "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜" (https://dl.acm.org/doi/pdf/10.1145/3442188.3445922) que ya planteó problemas estructurales sobre los programas generativos en 2021. Las autoras están por aquí, por cierto. Son @emilymbender @dair-community.social y @timnitGebru @dair-community.social y molan mucho.

El problema es que no son programas inteligentes, sino que aparentan serlo porque, a fuerza de predecir la siguiente palabra en el texto que están generando, consiguen generar frases cuya veracidad son incapaces de verificar pero que presentan con un tono muy autoritativo gracias a su entrenamiento. Por mucho que nos esforcemos en mejorarlas y gastemos una infinidad de horas y trabajo de computación en ello, la realidad es que su arquitectura hace que sean inútiles para desempeñar la tarea que se les impone.

En un todo un poco más ligero, el otro día en el Nadie Berto Romero comentó que nuestro problema es que intentamos usar estos programas para cosas serias y que nos decepcionamos siempre porque están llenos de fallos. La solución que daba era usarlos para la guasa y conseguir que sus fallos nos hicieran reír. Me pareció una forma muy simpática de tratar el problema :)

Taxo Rubio:wq 3d ago

@yoquese TE PENSABAS QUE YA HABÍA ACABADO DE ESCRIBIR MUAJAJAJAJA

Paula 🏴3d ago

@taxorubio JAJAJAJAJAJAJAJAJAJ totalmente. Pero si me das más, yo encantadísima. Me está encantando leerte y sinceramente no sabía muy bien por dónde coger este tema sin repetir discursos, porque me faltaba conocimiento. Por favor, haz un fanzine. Tú lo escribes y yo lo maqueto. ¡Enserio!

Taxo Rubio:wq 3d ago

@yoquese Uf, no me lo digas dos veces que llevo un tiempo con esa idea y con la de abrirme un canal de PeerTube para acercar la informática divertida a la gente de a pie.

Si lo dices en serio, hablamos por privado que nunca he hecho uno y me gustaría sinceramente

Paula 🏴3d ago

@taxorubio ¡pues te lo digo muy muy enserio! Si te apetece, cuando me examine en junio, podemos empezar a darle caña. Te puedo enseñar como funciona un fanzine, aunque hacer uno es lo más sencillo y accesible del mundo

para mí es el equivalente al software libre en cuanto a generación de conocimiento porque tanto su hechura como su difusión es libre y autogestionado.

Taxo Rubio:wq 3d ago

@yoquese Venga! Apúntatelo y cuando acabes (y descanses un poco) me avisas y le damos caña. Si lo sacamos en verano hacemos una fiesta en la playa XD

Chuck Draug de Murnoe 3d ago

@taxorubio Aparte de que las empresas se laven las manos, lo de siempre, si es gratis, tú eres el producto, tus datos son el producto. Y sé que en el sector pecamos o de simplificar o de complicarnos a la hora de hablar del tema, y debemos encontrar ese punto medio dejando claro quienes son responsables sin abrumar a la gente sin experiencia.

Taxo Rubio:wq 3d ago

@chuckdraug Llevo un año pensando en el tema de "tú eres el producto" y estoy de acuerdo pero creo que entra en el punto que mencionas de buscar una forma más clara de comunicar estas cosas.

A la gente le viene genial ese discurso porque es muy fácil desestimarlo con "cómo voy a ser yo un producto" y porque "te roban los datos" es una cosa tan abstracta sin repercusión directa que no se puede comparar con experiencias reales como que te roben la bici. No sé aún cuál es la forma de comunicar estas cosas, pero sí que necesitamos un cambio en el discurso para abandonar eslóganes abstractos y sustituirlos por mensajes sobre implicaciones reales.

Chuck Draug de Murnoe 3d ago

@taxorubio Sí, y que caemos también en eso. Es darnos cuenta y buscar la manera, aunque ojalá tener una solución.

@taxorubio fua, tremenda chapa. Instafollow, gracias.

Alfonso Martínez de Lizarrondo 2d ago

@taxorubio cuando se habla de "la IA" sin más calificativos suele ser correcto, ya que se está hablando de características que son comunes a todas las "IA", sin depender de si es de una u otra empresa.
Si digo que la IA de openIA alucina, parece querer decir que el resto no lo hace.

@taxorubio Muy atinado lo que decís, gracias, ayuda a enfocar discusiones y evitar alimentar (incluso desde la crítica) la máquina de propaganda discursiva montada alrededor de estos temas.

@taxorubio Y encima: la #AI (es decir, estos programas) gastan muchísima #energía y, peor, #agua. Ante el cambio climático solo se puede permitir el uso de estos programas AI en casos aislado como en la medicina pero no porque sea más cómodo para nosotros.

#cambioclimático