No se porqué no puedo evitar meter el pie en todos los charcos que veo pero allá voy de nuevo. A vueltas con la polémica que está creciendo cada vez más en internet (aumentada por el reciente lanzamiento de la herramienta "claude design") contra el "AI slop", el contenido generado con IA, monotónico, fácilmente reconocible y terriblemente aburrido.

El rechazo a páginas web y presentaciones creadas con estas herramientas de "diseño" o #Slopdesign está siendo un fenómeno digno de estudio. La gente con experiencia en diseño asistido por computadora y diseño web no tiene absolutamente ningún problema para identificar este contenido generado por IA con un 100% de acierto aunque no haya ningún error evidente en él.

Por otra parte gente que defiende la creación artística humana está promoviendo el uso de herramientas automáticas para identificar contenido generado por IA. Hay una contradicción especialmente sangrante en esto.

Estas herramientas que supuestamente detectan "AI slop" son redes neuronales entrenadas para reconocer patrones, es decir, son IA. Como herramientas de IA que son fallan más que escopeta de feria y no solo no detectan cualquier slop que se salga de los patrones de su entrenamiento sino que detectan como IA contenido generado por personas. Ambos tipos de errores están provocando situaciones tremendamente injustas y delirantes como es fácil de imaginar

Así que tenemos a "influencers" en mastodon que defienden la ética del arte humano que están recomendando usar herramientas de IA que se equivocan y perjudican a personas. Lo peor es que cuando se lo intentas decir con el máximo tacto posible te identifican como enemiga y te bloquean. Ya no me decepciona ni me sorprende cuando una nazi me bloquea pero si me deprime cuando lo hace alguien que supuestamente esta del mismo lado de la trinchera que yo. Ale, ese era mi lloro.

https://arstechnica.com/information-technology/2023/07/why-ai-detectors-think-the-us-constitution-was-written-by-ai

#IAgen #etica #IA #IAgenerativa #detectorIA #AI #genAI
#generativeAI #ethic #AIdetector
#deteccionIA

Gemini ahora detecta su propio engaño – Google integra SynthID para identificar imágenes creadas con IA

Google ha integrado su detector @SynthID en la aplicación Gemini, permitiendo a los usuarios subir imágenes y determinar si fueron creadas por Inteligencia Artificial de Google. SynthID funciona incrustando una marca de agua digital invisible en los metadatos de la imagen, audio y video generados por IA, dificultando su eliminación y facilitando la verificación de autenticidad en un mundo de creciente contenido sintético.

https://youtu.be/9btDaOcfIMY

Google ha equipado a su chatbot Gemini (tras el lanzamiento de Gemini 3) con una nueva y crucial herramienta: la capacidad de verificar si una imagen fue generada por IA mediante la tecnología SynthID .

¿Qué es SynthID?

SynthID es el sistema de marca de agua digital desarrollado por Google. A diferencia de las marcas de agua tradicionales que son visibles, SynthID incrusta una marca de agua invisible en los metadatos del contenido generado por IA (incluyendo imágenes, video, audio y texto). Este método está diseñado para ser mucho más resistente a la manipulación, como la edición, compresión o recortes.

Cómo funciona el detector en Gemini

La función de detector se implementa como una de las «aplicaciones conectadas» directamente en Gemini. Para utilizarla, el usuario debe subir una foto al chatbot y etiquetar @SynthID .

• Detección invisible: El detector busca fragmentos de la marca de agua invisible incrustada.
• Información detallada: El sistema puede incluso indicar aproximadamente qué proporción del contenido de la imagen contiene la marca de agua. Por ejemplo, si solo una parte de una foto fue editada con IA, solo esa sección podría contener la marca de agua de SynthID.

El desafío de la autenticidad

A medida que el contenido sintético generado por IA se vuelve más realista y común, la capacidad de discernir su origen se ha convertido en una necesidad. Si bien la solución de Google es poderosa, el artículo señala una limitación: no todos los generadores de IA utilizan SynthID. Google, sin embargo, está trabajando activamente para que más socios adopten esta tecnología.

#arielmcorg #ciberseguridad #deteccionia #falsosprofundos #gemini #google #infosertec #inteligenciaartificial2 #marcadeaguadigital #portada #synthid #tecnologia2