CivioJun 27

La urgencia por conseguir un diagnóstico rápido en el cáncer de piel más peligroso, el melanoma, ha llevado al País Vasco a apostar por la IA.

Quantus Skin promete agilizar el proceso decidiendo qué pacientes deben ser atendidos primero.

Sin embargo, los datos muestran una realidad preocupante.

https://civio.es/sanidad/2025/06/26/inteligencia-artificial-algoritmos-sanidad-sesgos-discriminacion/

Show threadCivioJun 27

En el segundo estudio realizado por dermatólogos del Hospital Ramón y Cajal de Madrid y profesores de la Universidad Complutense de Madrid para evaluar la eficacia clínica real de Quantus Skin‬ se mostró que el algoritmo pasa por alto uno de cada tres melanomas.

Deja escapar el 31% de los casos de este cáncer de piel tan agresivo. ‼️

https://civio.es/sanidad/2025/06/26/inteligencia-artificial-algoritmos-sanidad-sesgos-discriminacion/

Show threadBiorreactivoJun 29
@civio ¿podríais poner los enlaces a vuestro estudio y a los otros que citáis, por favor?
Con sólo estos datos no se pueden sacar conclusiones. Habría que ver si estos números (sensibilidad/especificidad) son aceptables para los expertos, cuáles son para los algoritmos utilizados hasta ahora, el coste del software y de los métodos actuales y también los sesgos de los métodos actuales, que habrá (incluso de la parte humana, que posiblemente se habrá entrenado con pacientes mayoritariamente de piel clara).
Y además, para qué está pensado: ¿cribado masivo o diagnóstico? Si es diagnóstico, ¿cómo ser va a usar? (en conjunto con otros tests* o va a tener un papel clave). Hay que tener en cuenta la prevalencia del melanoma. Si es para cribado, igual interesa más que haya pocos falsos positivos.
* aunque este tipo de tests pueden condicionar la decisión médica, si se acompaña de análisis subjetivo ya sabiendo su resultado.
Show threadSpookybotJun 29
@precariousmind @civio sin tener yo ninguna relación con esta gente; ¿has mirado en su web antes de preguntar? https://civio.es/sanidad/2025/06/26/inteligencia-artificial-algoritmos-sanidad-sesgos-discriminacion/
¿Lunar o cáncer? El algoritmo que se equivoca en uno de cada tres melanomas y obvia a los pacientes con la piel oscura

El País Vasco trabaja en la implantación de Quantus Skin en sus centros sanitarios tras una inversión de 1,6 millones de euros. Los especialistas critican el sistema de inteligencia artificial de una filial de Asisa por sus resultados “pobres” y “peligrosos”. El algoritmo está entrenado solo con pacientes blancos.

Civio
Show threadBiorreactivo
@teknomagic @civio por eso empiezo pidiendo que pongan los enlaces a aquello de lo que hablan.
Jun 29 at 12:01pmWeb
Show threadBiorreactivoJun 29
@teknomagic @civio se agradece que lo hayas hecho tú. Tenía pocas dudas que hubiese esa información en el artículo, pero hay que referenciar y citar.
Show threadBiorreactivoJun 29
@teknomagic @civio es interesante el desacuerdo entre los dos grupos de investigación sobre si es más importante sensibilidad o especificidad, pero eso habría que preguntárselo al Osakidetza. Ambos grupos tienen razón. Si quieres hacer cribado muy inicial y general (tal vez ponerlo al alcance de la ciudadanía), es mejor buena especificidad (pocos falsos positivos); ahora bien, en los negativos, siempre incluyendo recomendación de vigilar el lunar e indicaciones para hacerlo. Pero si es una ayuda al diagnóstico, lo que necesitas es una alta especificidad. ¿Sabe el Osakidetza para qué se va a usar? Y no menos importante, ¿qué papel tiene la privada que anda detrás de esto? ¿por qué se admite de entrada un método con baja precisión? ¿por qué se puso un 85% como límite? Llama la atención una cifra tan redonda. Para calcular estos números hay que partir de la prevalencia del melanoma y numerosos indicadores, incluyendo económicos. Es raro que acabemos en un número "perfecto".
Show threadCivioJun 30
@precariousmind @teknomagic Gracias por la aportación. Osakidetza nos informa de que está trabajando para implantar Quantus Skin en los centros sanitarios. Pero sí, hay muchas incógnitas por despejar.
×
Show threadCivioJun 27

En el segundo estudio realizado por dermatólogos del Hospital Ramón y Cajal de Madrid y profesores de la Universidad Complutense de Madrid para evaluar la eficacia clínica real de Quantus Skin‬ se mostró que el algoritmo pasa por alto uno de cada tres melanomas.

Deja escapar el 31% de los casos de este cáncer de piel tan agresivo. ‼️

https://civio.es/sanidad/2025/06/26/inteligencia-artificial-algoritmos-sanidad-sesgos-discriminacion/

Show threadCivioJun 27

Pero los problemas de Quantus Skin van más allá. Los autores no estudiaron cómo afecta el color de piel al funcionamiento del algoritmo.

Y aunque el melanoma sea un cáncer mucho más frecuente en personas blancas, las personas con piel oscura🧍🏿🧍🏽🧍🏾‍♀️ tienen una supervivencia global bastante más baja. 👀

Show threadCivioJun 27

Quantus Skin ha aprendido a reconocer el cáncer de piel casi exclusivamente en personas blancas. Primero alimentándose de un repositorio de fotografías médicas de pacientes, mayormente de piel clara. Lo puedes ver de un vistazo en este gráfico ⬇️ 👀.

Y después con imágenes de 513 pacientes del Hospital Ramón y Cajal de Madrid, también blancos.

Show threadCivioJun 27

Esta investigación ha sido un trabajo al que le hemos dedicado meses, analizando contratos, desgranando estudios académicos, consultando a expertos... e incluso logramos hablar con los creadores de la herramienta.

Todo, para mantenerte al tanto de lo que ocurre en lo público. 🔎

Apúntate a nuestro boletín para no perderte nuestras siguientes investigaciones sobre el uso de programas automatizados en lo público. Habrá más y pronto: https://civio.es/suscribete-a-nuestro-boletin/

Apúntate a los boletines de Civio

Boletín con investigaciones periodísticas, información de servicio público y todas las novedades de Civio sobre transparencia, datos abiertos y rendición de cuentas en España.

Civio
Show threadrubenJun 27
@civio gran hilo! gracias por vuestro trabajo :)
Show threadrapazJun 27
@civio muchas gracias por este trabajo. estos programas basados en ia existen desde hace ya unos años y es fundamental que nunca se les deje a ellas el diagnóstico. son herramientas de apoyo al diagnóstico que deben ser usadas por profesionales, y la responsabilidad del diagnóstico debe recaer sobre ellos, no sobre la herramienta en sí
Show threadBiorreactivoJun 29
@civio ¿podríais poner los enlaces a vuestro estudio y a los otros que citáis, por favor?
Con sólo estos datos no se pueden sacar conclusiones. Habría que ver si estos números (sensibilidad/especificidad) son aceptables para los expertos, cuáles son para los algoritmos utilizados hasta ahora, el coste del software y de los métodos actuales y también los sesgos de los métodos actuales, que habrá (incluso de la parte humana, que posiblemente se habrá entrenado con pacientes mayoritariamente de piel clara).
Y además, para qué está pensado: ¿cribado masivo o diagnóstico? Si es diagnóstico, ¿cómo ser va a usar? (en conjunto con otros tests* o va a tener un papel clave). Hay que tener en cuenta la prevalencia del melanoma. Si es para cribado, igual interesa más que haya pocos falsos positivos.
* aunque este tipo de tests pueden condicionar la decisión médica, si se acompaña de análisis subjetivo ya sabiendo su resultado.
Show threadsaraJun 29

@precariousmind @civio

Igual se les ha olvidado enlazar al artículo completo, no lo he leído, pero es extenso:

https://civio.es/sanidad/2025/06/26/inteligencia-artificial-algoritmos-sanidad-sesgos-discriminacion/

¿Lunar o cáncer? El algoritmo que se equivoca en uno de cada tres melanomas y obvia a los pacientes con la piel oscura

El País Vasco trabaja en la implantación de Quantus Skin en sus centros sanitarios tras una inversión de 1,6 millones de euros. Los especialistas critican el sistema de inteligencia artificial de una filial de Asisa por sus resultados “pobres” y “peligrosos”. El algoritmo está entrenado solo con pacientes blancos.

Civio
Show threadSpookybotJun 29
@precariousmind @civio sin tener yo ninguna relación con esta gente; ¿has mirado en su web antes de preguntar? https://civio.es/sanidad/2025/06/26/inteligencia-artificial-algoritmos-sanidad-sesgos-discriminacion/
¿Lunar o cáncer? El algoritmo que se equivoca en uno de cada tres melanomas y obvia a los pacientes con la piel oscura

El País Vasco trabaja en la implantación de Quantus Skin en sus centros sanitarios tras una inversión de 1,6 millones de euros. Los especialistas critican el sistema de inteligencia artificial de una filial de Asisa por sus resultados “pobres” y “peligrosos”. El algoritmo está entrenado solo con pacientes blancos.

Civio
Show threadBiorreactivoJun 29
@teknomagic @civio por eso empiezo pidiendo que pongan los enlaces a aquello de lo que hablan.
Show threadBiorreactivoJun 29
@teknomagic @civio se agradece que lo hayas hecho tú. Tenía pocas dudas que hubiese esa información en el artículo, pero hay que referenciar y citar.
Show threadBiorreactivoJun 29
@teknomagic @civio es interesante el desacuerdo entre los dos grupos de investigación sobre si es más importante sensibilidad o especificidad, pero eso habría que preguntárselo al Osakidetza. Ambos grupos tienen razón. Si quieres hacer cribado muy inicial y general (tal vez ponerlo al alcance de la ciudadanía), es mejor buena especificidad (pocos falsos positivos); ahora bien, en los negativos, siempre incluyendo recomendación de vigilar el lunar e indicaciones para hacerlo. Pero si es una ayuda al diagnóstico, lo que necesitas es una alta especificidad. ¿Sabe el Osakidetza para qué se va a usar? Y no menos importante, ¿qué papel tiene la privada que anda detrás de esto? ¿por qué se admite de entrada un método con baja precisión? ¿por qué se puso un 85% como límite? Llama la atención una cifra tan redonda. Para calcular estos números hay que partir de la prevalencia del melanoma y numerosos indicadores, incluyendo económicos. Es raro que acabemos en un número "perfecto".
Show threadCivioJun 30
@precariousmind @teknomagic Gracias por la aportación. Osakidetza nos informa de que está trabajando para implantar Quantus Skin en los centros sanitarios. Pero sí, hay muchas incógnitas por despejar.
Show threadCivioJun 30
@precariousmind Disculpa. El enlace a la investigación está en posts anteriores y también en la portada de nuestra web. Ahora lo acabamos de añadir al hilo. ¿Has podido echar un vistazo a los datos del artículo?
Show threadBiorreactivoJun 30
@civio el artículo está muy bien, mí desconcierto es que no encontraba enlace al artículo ni a los trabajos citados (ahora sí). Perdonad, pero últimamente me he quemado un poco con otros sitios que van de científicos y son un sumidero de clickbaits y estaba bajo de paciencia.
Show threadCivioJul 1

@precariousmind Te entendemos con lo del clickbait pseudocientífico.

En Civio huimos de eso. Aunque nuestros titulares no sean tan sexis como podrían, preferimos sacrificar el gancho en favor de la información.

Show threadrubenJul 1

@civio @precariousmind no todo ha de ser ni "sexy" ni "deseable" ;p

gracias por el curro "gris" e "invisible" :)

Show threadBiorreactivoJul 1
@civio medios como el vuestro permiten mantener la esperanza.
Show threadint21hJul 1

@precariousmind @civio

Si me permites una pregunta, @precariousmind , ¿para un cribado no se debería buscar que los falsos negativos sean lo más bajos posible?

Show threadBiorreactivoJul 5
@int21h @civio por eso digo que depende de muchos factores (y aquí no hablo de un software de diagnóstico en consulta, sino uno que tenga la población en el móvil, es decir, autodiagnóstico, una diferencia fundamental). Si la prevalencia es muy baja, lo más probable es que un positivo sea falso, con lo cual conviene mover el umbral para reducir estos. Mi razonamiento tiene que ver también con lo que hay que detectar. Si te has encontrado un lunar, puedes vigilarlo. Si el software es mínimamente apañado, debería no solo identificarlo, sino detectar si cambia de forma o tamaño entre medidas y además proporcionar ejemplos de lunar anómalo al usuarie.
En esta situación, sería más aconsejable una buena especificidad. Que quien tenga un lunar claramente tipo melanoma se lo identifique y a los dudosos les ayude a hacer seguimiento. Si un sistema de autodiagnóstico tiene una baja especificidad (por subirle la sensibilidad), tendremos las consultas llenas de gente pudiendo revisión de lunares inocuos.
Y aquí está el punto de conexión con la noticia original: si, a pesar de toda la IA que dices que lleva, ti software tiene un poder de discriminación que es una kk, en cuando muevas el punto de corte para incrementar sensibilidad o especificidad, el otro indicador te va a bajar un montón. Pues crea un software con un buen poder de discriminación y así podrás tener los dos indicadores a un nivel bien alto.
Show threadBiorreactivoJul 5
@int21h @civio perdón, debí comenzar diciendo que su hablamos de cribados tipo COVID, que luego tenían otra fase confirmatoria y ahí lo que interesaba era reducir posibles contagios detectando gente infectada, entonces sí, te puedes permitir muchos falsos positivos, la sensibilidad manda.
Show threadint21hJul 5

@precariousmind @civio

Gracias por la explicación.

Yo, sin tener conocimiento en la materia, el razonamiento que hago es que una persona con un resultado negativo no va a pedir una segunda prueba, cosa que sí hacen los positivos. Por lo tanto sería preferible tener muchos falsos positivos que al fin y al cabo se van a rediagnosticar, con tal de eliminar o reducir los falsos negativos, cuyas consecuencias sí pueden ser malas.