https://www.publico.es/ciencias/riesgo-real-ia-peliculas-sistema-te-niega-empleo-libertad-condicional.html?segment=registrados&pnespid=D710.hlItSQNnwua5J7IEUVP8EIhxKxzuQZXHaEJNJ3KP2ytNKTKdiOAZdeLgK2YW6Gzxbf4

En la serie Max Headroom salía la situación de enfrentarse a un juicio y se encontraba con que no tenía documentación y el ordenador mandaba a la acusada a "eliminación" porque sin documentos no existes. Y esa serie ya tiene unos cuantos años.

#IA #peligro #libertad #MaxHeadroom #RisCanvi #CarlosCastillo

Carlos Castillo: "El riesgo real de la IA no es el de las películas, sino el de un sistema que te niega un empleo o una libertad condicional"

<b></b>El equipo de este científico de datos investiga la forma en que sistemas como RisCanvi provocan discriminaciones.

Para cerrar el evento 'Algoritmo público, código abierto', Pablo Jiménez Arandia nos habla de los pormenores de su investigación sobre #RisCanvi en El Confidencial.

Aquí puedes leerla: https://www.elconfidencial.com/tecnologia/2024-04-24/riscanvi-algoritmo-cataluna-prisiones-presos-inteligencia-artificial_3871170/

También comparte sus esfuerzos por conseguir el código fuente de una IA para rastrear las bajas laborales. Él también se ha topado con las típicas excusas para no facilitarle el código fuente de la aplicación; entre ellas, problemas de seguridad.

https://www.elconfidencial.com/tecnologia/2023-04-17/seguridad-social-ia-inteligencia-artificial-inss-bajas-empleo-algoritmos_3611167/

@civio "Con base en los datos disponibles, solo podemos concluir que RisCanvi no funciona y que actualmente no es capaz de brindar las garantías necesarias a los reclusos, abogados, jueces y autoridades de justicia penal." #Riscanvi
https://eticas.ai/wp-content/uploads/2024/06/RisCanvi-Adversarial-Audit.pdf
@civio "Mi conclusión final es que, por un lado, debe rechazarse de plano que sea posible configurar un modelo de intervención penitenciaria centrado en la valoración del riesgo con este tipo de instrumentos, puesto que resulta difícilmente compatible con el respeto al
principio constitucional de orientación de las penas hacia la reeducación y reinserción social, dado que subordina la rehabilitación a la minimización del riesgo" Lorena Alemán Aróstegui #Riscanvi
https://revistas.usc.gal/index.php/epc/article/view/8884/13243