nasd1066

Sobre la polémica del día de ayer y hoy... Lo siento, pero defender a las IAs generativas arguyendo que las puedes hostear tú misme me parece una idea que no se sostiene.

Está el embrollo de alimentarle los datos. De dónde los sacas; aun metiéndote en páginas con licencias públicas, tipo Wikipedia o Internet Archive, les vas a joder porque les estás petando a peticiones. Imagínate si mucha gente tuviese esa idea de autoalojar su propia IA.

Oct 20 at 12:05pmWeb
Show threadnasd1066Oct 20
Está el embrollo de los recursos. Hay que pagar medios de almacenamiento, hay que pagar hardware para que procese toda esa información. No es algo que pueda hacer con un ordenador que me sobre y tenga por ahí. Añádele los costes eléctricos.
Show threadnasd1066Oct 20
Y eso es algo que voy a incidir: no están hechas para ser autoalojadas, requieren recursos más allá de los que une individue o una asociación convencional puedan tener. Y tampoco están hechas para entrenarse sólamente con datos de dominio público, véase que han barrido medio internet para entrenarlas (y que aun habiédose entrenado, los resultados son los que son).
Show threadnasd1066Oct 20

Y sobre el tema de que las hace accesibles a asociaciones que no tienen medios para hacer carteles... Asociaciones así las hay a puñados, de todos los signos y colores, y todas y cada una de ellas hasta ahora se podían permitir editar un cartel usando Photoshop, GIMP, Paint.net, o el software de turno.

Y hacían carteles decentes, con un estilo propio porque usaban una fuente concreta, un estilo de imagen concreto, etc., no unos dibujos genéricos con un filtro sepia y la misma letra.

Show threadnasd1066Oct 20
Que una asociación (que se nutre principalmente del trabajo y dedicación de gente voluntaria) haga un cartel o un comunicado con IA denota dejadez.
Show threadSantiago Oct 22
@nasd1066 No estoy totalmente de acuerdo. Si pueden ser autoalojadas, solo que requieren algo más de hardware. Pienso que algunas IAs que te ayuden a hacer cosas pueden tener un cierto valor. Hay modelos que son entrenados con datos libres y de buena calidad, en universidades y los modelos son liberados. Cosas como Deepseek que funcionan con mucho menos energía podrían ser. Se entrenan una vez y eso se puede copiar y distribuir. El problema es generar un mecanismo comunitario que financie y decida que IA o que funciones quiere tener. Digo esto porque un argumento similar podría articularse para el tema de las redes sociales, sostener un servidor de Mastodon consume recursos, las redes sociales consumen recursos y además causan daño porque te alienan de la realidad, todos deberíamos vivir la vida real y no digital en redes sociales digitales y andar gastando recursos, que es lógico y es correcto en esencia. Pero le damos valer como sociedad, entonces el tenerlos disponibles es necesario, el tema es como y de que manera. El día que se caiga ChatGPT yo quiero que comunidades tengan su página web propia con su ChatGPT propio destilado corriendo en un servidor comunitario y no que colapse todo porque no hay ChatGPT. De la misma manera que si un día se cae Whatsapp, quiero que la gente tenga XMPP en forma descentralizada y entonces no importe si se cae. Eso es lo que nos empodera creo.
Show threadJaime SorianoOct 20
@nasd1066 es el problema de los LLMs llamados open source. Por mucho que el modelo y todas las herramientas asociadas estén disponibles, no puedes realmente modificarlo porque no puedes re-entrenarlo a la escala de una big tech. Y como dices tampoco puedes ejecutarlo con la misma capacidad.
Show threadFedeOct 20

@nasd1066

Hola. Interesante comentario. Comparto el mio como aporte al debate.

Efectivamente se puede correr un modelo de IA de manera local. Depende de los objetivos que se persigan y la máquina que se tenga.

Para crear y trabajar con documentos locales, haciendo tareas de procesameinto, etc, tener una pc que haga de servidor hogareño con una buena GPU (gama media) es suficiente. Claro que si el volumen de documentos o la complejidad de las tareas aumenta, la necesidad de invertir en hardware más robusto también crece. Pero no es estrictamente necesario que tenga conexión a internet siquiera.

Show threadNachoOct 20
@nasd1066 En realidad y en la mayoría de los casos si tienes una IA autoalojada tienes ya en local el modelo pre entrenado que ya ha crugido a peticiones a esos sitios en el pasado y en tu local no va a necesitar llamarles. Una IA autoalojada me sigue planteando bastantes dudas éticas, pero el que sea un generador de tráfico hacia sitios con licencias libres no es una de ellas.