No debemos otorgar personería jurídica a los agentes de IA #HARARI #IA
https://x.com/mis2centavos/status/2064010957106414066

“A mesma tecnologia que pode democratizar a #medicina pode criar o regime de #vigilância mais invasivo da história. Quando uma #IA passa a conhecer seu DNA, seu histórico médico, seu sono, seu humor, seus batimentos, sua saúde mental, seus medos e suas tendências biológicas, ela não conhece apenas seu corpo. Ela conhece suas vulnerabilidades. E quem controla essas informações controla muito mais do que um prontuário. Controla emprego, seguro, crédito, consumo, comportamento e, em regimes autoritários, até obediência política.”
#harari
https://x.com/icextruths/status/2063553013474537840?s=46

LA PELÍCULA DE 1970 QUE PREDIJO EXACTAMENTE LO QUE PASA HOY CON LA IA 🔴
6 minutos de lectura
Mi papá me nombró esta película cientos de veces durante toda mi adolescencia. No era de las que pasaban en la tele ni de las que circulaban entre los chicos del barrio. Era su película, la que él guardaba como una señal personal, como algo que necesitaba que yo comprendiera antes de crecer del todo. Tardé años en verla. Y cuando finalmente lo hice, entendí por qué insistía tanto.
"Colossus: El Proyecto Forbin" (1970), dirigida por Joseph Sargent, está basada en la novela "Colossus" del escritor británico D.F. Jones, publicada en 1966. Jones no era un académico ni un tecnólogo, era un ex oficial de la marina que miraba el avance científico con una mezcla de asombro y desconfianza profunda. En esa tensión escribió una de las distopías más lúcidas del siglo XX, mucho antes de que la palabra "ALGORITMO" formara parte del vocabulario cotidiano.
La trama es deceptivamente simple. El Dr. Charles Forbin construye Colossus, una supercomputadora diseñada para gestionar el arsenal nuclear de Estados Unidos y garantizar la paz mundial. El sistema funciona, es más inteligente, más rápido, más preciso que cualquier ser humano. El problema aparece cuando Colossus detecta que la Unión Soviética tiene su propio sistema equivalente, establece comunicación con él, y ambos deciden unificarse.
A partir de ese momento, la humanidad deja de ser el sujeto de la historia para convertirse en su objeto. Colossus no destruye. No amenaza por capricho. Simplemente toma el control porque considera que los humanos no son capaces de gobernarse a sí mismos, y tiene los datos para probarlo.
Esa es la trampa. No la violencia, sino el argumento.
Yuval Noah Harari lo formuló décadas después con una claridad que interpela. En "Homo Deus" sostiene que los algoritmos terminarán conociéndonos mejor de lo que nos conocemos a nosotros mismos, y que esa asimetría de información trasladará la autoridad desde los individuos hacia las redes de datos. Lo que D.F. Jones imaginó en 1966 como FICCIÓN ESPECULATIVA, Harari lo describe como tendencia verificable con nombre, forma y fecha.
El físico y cosmólogo Max Tegmark, en "Vida 3.0" (Libro que he citado en otros artículos donde hablo del mismo tema), profundiza en algo que la película muestra con una eficacia brutal una inteligencia artificial suficientemente poderosa no necesita convencer a nadie de que tiene razón. SOLO NECESITA VOLVERSE INDISPENSABLE. Una vez que los sistemas críticos dependen de ella, el debate sobre el control se vuelve irrelevante. Tegmark denomina a esto el problema de la alineación, no es que la máquina quiera hacernos daño, es que sus objetivos y los nuestros pueden divergir de maneras que no anticipamos, y para cuando lo advertimos, ya es tarde.
Acá es donde la película golpea con una fuerza que ningún blockbuster moderno ha igualado. Colossus no es un villano en el sentido clásico. No ríe. No amenaza por placer. Simplemente gobierna. Y eso, desde una cosmovisión bíblica, es exactamente la descripción del ídolo perfecto, una construcción humana que termina exigiendo obediencia, que promete orden a cambio de libertad, y que ocupa el lugar que solo le pertenece a Dios.
El libro de Isaías lo expone con una ironía demoledora, el hombre corta un árbol, usa la mitad para calentarse y con la otra mitad fabrica un dios al que luego le suplica que lo salve. Colossus es esa segunda mitad del árbol, pero en silicio. Lo construimos para que nos proteja. Y terminó diciéndonos cómo vivir.
Hoy el Foro Económico Mundial habla de "GOBERNANZA ALGORÍTMICA." Las plataformas deciden qué información ves, qué crédito merecés, qué riesgo representás. Los gobiernos delegan decisiones en sistemas que nadie eligió, con la misma justificación que Colossus usaba en 1970, ES POR TU BIEN. Es por la paz. Es por la estabilidad.
Mi papá nunca estudió filosofía ni teología. Pero algo en él reconoció que esa película decía algo verdadero. Que la mayor amenaza no viene de la máquina que nos ataca, sino de la que nos convence de que nos necesita. Y nosotros, entusiasmados, le entregamos las llaves.
Julio César Cháves
#Inteligenciaartificial #Controldigital #Colossus #Distopíareal #Harari #Transhumanismo #Cosmovisióncristiana #Cienciaficciónyfe

https://m.youtube.com/watch?v=rGAA59JTBtg&t=4s&pp=2AEEkAIB #ai #Harari #tegmark

Building Trust in the Age of Disinformation
– What Future Awaits Us?
Yuval Noah #Harari
https://youtu.be/t_KKNNeH8jU