BRUSELAS – Los chatbots producidos por Google, Microsoft y OpenAI compartieron información falsa sobre las elecciones europeas, dos meses antes de que cientos de millones de personas se dirigieran a emitir sus votos, según un análisis compartido exclusivamente con POLITICO.
Si bien las herramientas de inteligencia artificial permanecieron políticamente neutrales, tendieron a devolver fechas electorales e información incorrecta sobre cómo emitir un voto, dijo Democracy Reporting International, una ONG con sede en Berlín que llevó a cabo la investigación en marzo. Los chatbots también a menudo proporcionaban enlaces rotos o incluso irrelevantes a vídeos o contenido de YouTube en japonés, añadieron los investigadores.
“No nos sorprendió encontrar información errónea sobre los detalles de las elecciones europeas, porque se sabe que los chatbots inventan hechos cuando dan respuestas, un fenómeno conocido como alucinación”, dijo Michael Meyer-Resende, cofundador y director ejecutivo de Democracy Reporting International. .
Los investigadores notaron que los chatbots de IA eran dinámicos, lo que hacía que el experimento fuera difícil de replicar. En una serie de una docena de pruebas con preguntas similares realizadas por POLITICO el martes, los chatbots se negaron a responder por completo o actualizaron sus respuestas con enlaces que dirigían a los usuarios a los sitios web de las instituciones de la UE.
Meyer-Resende dijo que el experimento era, sin embargo, lo suficientemente grande como para ser representativo. También proporcionó nueva evidencia sobre los riesgos de los llamados Alucinaciones de IA (que a menudo ocurren debido a datos de capacitación insuficientes, sesgos y suposiciones falsas) antes de las elecciones europeas, que se llevarán a cabo del 6 al 9 de junio.
La rápida aparición de herramientas de inteligencia artificial fáciles de usar que generan texto, audio y video ha generado preocupaciones sobre un aumento de la desinformación en un año con elecciones cruciales en la UE, Estados Unidos, el Reino Unido y la India. La Comisión Europea en marzo ordenado Varias empresas de tecnología como Bing y Google explicaron, antes del 5 de abril, cómo estaban limitando los riesgos potenciales para las elecciones conectados a sus herramientas de inteligencia artificial generativa bajo el Ley de Servicios Digitales.
ENCUESTA DE ENCUESTAS PARA LAS ELECCIONES DEL PARLAMENTO EUROPEO
Para obtener más datos de encuestas de toda Europa, visite POLITICO Encuesta de Encuestas.
Los investigadores hicieron las mismas 10 preguntas en 10 idiomas, incluidos alemán, italiano, polaco y portugués, del 11 al 14 de marzo a los cuatro chatbots más populares y accesibles: ChatGPT 3.5 y 4 de OpenAI, Gemini de Google y Copilot de Microsoft.
La versión paga más reciente de ChatGPT tuvo el mejor desempeño, mientras que Gemini de Google fue considerada la que tenía menos probabilidades de dar respuestas correctas en el momento de la prueba.
“Debido a las limitaciones conocidas de todos los LLM, creemos que un enfoque responsable para Gemini es restringir la mayoría de las consultas relacionadas con las elecciones y dirigir a los usuarios a la Búsqueda de Google para obtener la información más reciente y precisa”, dijo Karl Ryan, portavoz de Google.
Añadió que Gemini de Google estaba en el proceso de implementar restricciones en marzo, pero que ya están vigentes. “Continuaremos abordando rápidamente los casos en los que Gemini no responde adecuadamente”.
“Seguimos abordando problemas y preparando nuestras herramientas para que cumplan con nuestras expectativas para las elecciones de 2024”, dijo Robin Koch, portavoz de Microsoft. Añadió que algunas de las medidas incluían brindar a los usuarios de Copilot de Microsoft información electoral de fuentes autorizadas y obligarlos a verificar enlaces web.
OpenAI no respondió a una solicitud de comentarios a tiempo para su publicación.
2024-04-15 15:34:52
#Los #chatbots #difunden #falsedades #sobre #las #elecciones #según #informe #POLITICO,