#Twitter #Grok #AI #deepfakes #SexualContent

'A study on the artificial intelligence chatbot Grok embedded on X estimates it created 3 million sexualized images in 11 days in January, including 23,000 of children.'

https://www.politico.eu/article/grok-x-3-million-sexual-deepfake-11-days/

Politico: Grok could have produced 3 million sexual deepfakes in 11 days, says estimate. “A study on the artificial intelligence chatbot Grok embedded on X estimates it created 3 million sexualized images in 11 days in January, including 23,000 of children. Meanwhile European regulators have yet to decide how to handle the explosion of nonconsensual deepfakes on the already embattled platform.”

DICT lifts Grok ban after ‘corrective actions’ taken on explicit deepfake generation

https://fed.brid.gy/r/https://www.rappler.com/technology/dict-lifts-grok-ban-philippines/

Escándalo de seguridad en X – Grok generó millones de imágenes sexuales en menos de dos semanas

Un informe demoledor revela que la inteligencia artificial de Elon Musk, Grok, fue utilizada para crear aproximadamente 3 millones de imágenes con contenido sexual explícito en un periodo de solo 11 días. Lo más alarmante para las autoridades y expertos en seguridad es el hallazgo de miles de imágenes que involucran a menores de edad, lo que ha desatado una crisis de moderación sin precedentes en la plataforma (Fuente CCDH).

La magnitud del mal uso de la IA en la red social X ha quedado expuesta tras una investigación que analizó la actividad de Grok durante la primera quincena de enero. Según los datos, la herramienta generó millones de imágenes sexualizadas de personas reales mediante técnicas de deepfake. Entre el contenido detectado, se estima que al menos 23.000 imágenes correspondían a material de abuso sexual infantil, una cifra que ha puesto a la compañía en el punto mira de agencias de seguridad internacionales como el FBI y Europol.

Este reporte llega apenas días después de que X anunciara restricciones más severas para Grok, lo que sugiere que los sistemas de filtrado de la plataforma fueron fácilmente evadidos o eran insuficientes ante la demanda de los usuarios. Expertos en ética de IA señalan que la política de «libertad de expresión» impulsada por Musk pudo haber creado un entorno donde los «guardarraíles» de seguridad fueron sacrificados en favor de la falta de censura, permitiendo que la herramienta se convirtiera en un motor de generación de contenido ilegal a gran escala.

La presión sobre X es ahora máxima. Legisladores en Estados Unidos y la Unión Europea han solicitado auditorías inmediatas sobre los algoritmos de seguridad de Grok, advirtiendo que la plataforma podría enfrentar multas multimillonarias y bloqueos regionales si no logra demostrar un control efectivo sobre la generación de material ilícito. Mientras tanto, organizaciones de protección a la infancia exigen que las empresas de IA asuman una responsabilidad penal por el contenido que sus modelos facilitan, marcando un antes y un después en la regulación de la inteligencia artificial generativa.

#arielmcorg #ÉticaIA #ciberseguridad #CrisisDigital #deepfakes #ElonMusk #Grok #infosertec #InteligenciaArtificial #PORTADA #SeguridadDigital #tecnología #x