Las caras falsas creadas por IA se ven más confiables que las personas reales

Los rostros humanos sintéticos son tan convincentes que pueden engañar incluso a los observadores capacitados, y pueden ser muy efectivos para usar en estafas.

Por Christa Leste-Lasserre

La inteligencia artificial puede crear rostros humanos tan realistas que las personas no pueden distinguirlos de los rostros reales, y en realidad confían más en los rostros falsos.

Los rostros humanos ficticios generados por computadora son tan convincentes que pueden engañar incluso a los observadores entrenados. Se pueden descargar fácilmente en línea y usarse para estafas en Internet y perfiles de redes sociales falsos.

“Deberíamos estar preocupados porque estos rostros sintéticos son increíblemente efectivos para propósitos nefastos, por ejemplo, para cosas como pornografía de venganza o fraude”, dice Sophie Nightingale de la Universidad de Lancaster en el Reino Unido.

Los programas de IA llamados redes antagónicas generativas, o GAN, pueden aprender a crear imágenes falsas que se distinguen cada vez menos de las imágenes reales, al enfrentar dos redes neuronales entre sí.

Nightingale y su colega Hany Farid de la Universidad de California, Berkeley, pidieron a 315 participantes, reclutados en un sitio web de crowdsourcing, que dijeran si podían distinguir una selección de 400 fotos falsas de 400 fotografías de personas reales. Cada conjunto constaba de 100 personas de cada uno de los cuatro grupos étnicos: blanco, negro, asiático oriental y asiático del sur.

Este grupo tuvo una tasa de precisión del 48,2 por ciento, un poco peor que el azar. Un segundo grupo de 219 participantes recibió capacitación para reconocer rostros generados por computadora. Este grupo tenía una tasa de precisión del 59 por ciento, pero esta diferencia es insignificante, dice Nightingale.

Los rostros blancos fueron los más difíciles de distinguir entre los reales y los falsos, tal vez porque el software de síntesis fue entrenado en rostros desproporcionadamente más blancos.

Los investigadores también le pidieron a un grupo separado de 223 participantes que calificara una selección de las mismas caras en su nivel de confiabilidad, en una escala de 1 a 7. Calificaron las caras falsas como un 8 por ciento más confiables, en promedio, que las reales. caras: una diferencia pequeña pero significativa, según Nightingale. Eso podría deberse a que los rostros sintéticos se parecen más a los rostros humanos “promedio”, y es más probable que las personas confíen en los rostros de aspecto típico, dice.

Mirando los extremos, las cuatro caras calificadas como menos confiables eran reales, mientras que las tres caras más confiables eran falsas.

“Necesitamos pautas éticas más estrictas y más marcos legales porque, inevitablemente, habrá personas que querrán usar [these images] hacer daño, y eso es preocupante”, dice Nightingale.

Para reducir estos riesgos, los desarrolladores podrían agregar marcas de agua a sus imágenes para marcarlas como falsas, dice. “En mi opinión, esto es bastante malo. Simplemente empeorará si no hacemos algo para detenerlo”.

Referencia de la revista: PNASDOI: 10.1073/pnas.2120481119