¿Cómo identificar mejor el contenido creado por inteligencia artificial (IA)? Veinte gigantes digitales se comprometieron el viernes, al margen de la gran conferencia de seguridad de Múnich (MSC), a desarrollar herramientas específicas como la marca de agua.
– Qué es ? –
La IA generativa permite crear, previa solicitud en el lenguaje cotidiano, textos, imágenes, archivos de sonido o vídeos capaces de hacer pasar documentos generados desde cero como auténticos.
“La marca de agua digital consiste en insertar un mensaje invisible a simple vista (en estos documentos) que luego puede ser detectado por una máquina”, explica Alexis Leautier, ingeniero de inteligencia artificial de la CNIL, la policía digital francesa. Esta marca nos permite entonces “saber si el contenido es artificial y tener conocimiento de su origen. »
Si antes los defectos o inconsistencias en la imagen permitían identificar el contenido generado por IA, ahora es cada vez más difícil identificar imágenes modificadas.
“La marca de agua nos permite agregar información para distinguir entre lo real y lo falso”, dice Pierre Fernández, estudiante de doctorado en el Instituto Nacional de Investigación en Ciencias y Tecnologías Digitales y especialista en marcas de agua con IA.
– Como funciona ? –
En el caso de una imagen, la marca de agua modifica unos pocos píxeles, la unidad básica de una imagen digital. “Se trata de modificaciones muy pequeñas, un cambio de color que no representa nada”, explica Leautier. “Pero analizado por ordenador podremos encontrar este pequeño matiz para reconstruir el mensaje global que contiene. »
El tatuaje se puede aplicar en el momento en que se genera la imagen o posteriormente. Para Alexis Leautier, “lo más seguro sería exigir que el propietario del modelo genere él mismo el tatuaje”, lo que nos permite volver directamente a la IA utilizada para crear la imagen.
– ¿Qué IA se ven afectadas? –
Google ha estado experimentando con SynthID durante varios meses, que permite agregar marcas de agua digitales a las imágenes generadas por Google Imagen.
Si Meta ya ha implementado estas etiquetas en las imágenes creadas a partir de su herramienta Meta AI lanzada en diciembre, el gigante americano dice que quiere identificar “en los próximos meses” cualquier imagen generada por IA que se publicará en sus redes sociales.
Microsoft, Adobe y otros importantes actores tecnológicos han fundado la Coalición para la procedencia y autenticidad del contenido (C2PA), una iniciativa para desarrollar estándares y soluciones tecnológicas para verificar la autenticidad del contenido en línea.
A principios de 2024, la startup californiana OpenAI se unió a C2PA, brindando a los usuarios la capacidad de detectar si una imagen fue creada por su ChatGPT o por el generador de imágenes DALL-E 3. “Es solo información relacionada con la imagen y no un tatuaje real”. dice Fernández.
– ¿Cuáles son los problemas? –
El auge de la IA generativa está generando temores de perturbaciones políticas a través de la desinformación o la desinformación en el período previo a varias elecciones importantes, particularmente en los Estados Unidos.
El partido de Imran Khan publicó recientemente un vídeo generado por IA en el que se muestra al ex primer ministro paquistaní, actualmente encarcelado, proclamando la victoria en las elecciones legislativas.
“Se trata de un riesgo preocupante”, analiza Leautier, para quien la marca de agua digital podría permitir que las redes sociales “desempeñen un papel en la prevención desde un punto de vista técnico. »
Más allá de estas votaciones, el desarrollo de programas de IA generativa va acompañado de la producción de un flujo de contenidos degradantes, según numerosos expertos y reguladores, como imágenes pornográficas falsas (“deepfakes”) dirigidas tanto a mujeres famosas como a mujeres anónimas.
– ¿Cuáles son sus límites? –
“Las herramientas existentes, como SynthID, generalmente sólo detectan tatuajes que ellas mismas han generado”, señala Leautier. Las ediciones o compresiones de la imagen también pueden afectar la eficacia de la detección de marcadores.
“El tatuaje ofrece una protección bastante fuerte, pero nunca podremos impedir que personas muy decididas se lo quiten”, resume Fernández. “Pero requiere habilidades técnicas que no todos tienen. »
2024-02-19 06:50:38
#una #tarjeta #identidad #para #contenido #generado #por,