Foto de archivo de los logotipos de ChatGPT y OpenAI | Crédito de la foto: REUTERS
El jefe de industria de la UE, Thierry Breton, dijo que las nuevas reglas de inteligencia artificial propuestas tendrán como objetivo abordar las preocupaciones sobre los riesgos en torno al chatbot ChatGPT y la tecnología de inteligencia artificial, en los primeros comentarios sobre la aplicación de un alto funcionario de Bruselas.
Solo dos meses después de su lanzamiento, ChatGPT, que puede generar artículos, ensayos, chistes e incluso poesía en respuesta a indicaciones, ha sido calificada como la aplicación para consumidores de más rápido crecimiento en la historia.
Algunos expertos han expresado su temor de que los sistemas utilizados por tales aplicaciones puedan ser mal utilizados para plagio, fraude y difusión de información errónea, incluso cuando los campeones de la inteligencia artificial lo saludan como un salto tecnológico. Breton dijo que los riesgos que plantea ChatGPT -una creación de OpenAI, una empresa privada respaldada por Microsoft Corp.- y los sistemas de inteligencia artificial subrayan la necesidad urgente de reglas que propuso el año pasado en un intento por establecer el estándar global para la tecnología. Las reglas se están discutiendo actualmente en Bruselas.
“Como lo muestra ChatGPT, las soluciones de IA pueden ofrecer grandes oportunidades para las empresas y los ciudadanos, pero también pueden plantear riesgos. Es por eso que necesitamos un marco regulatorio sólido para garantizar una IA confiable basada en datos de alta calidad”, dijo a Reuters en comentarios escritos. .
Leer también | ChatGPT y el futuro del periodismo
(Para conocer las noticias tecnológicas más destacadas del día, suscríbase a nuestro boletín técnico, Today’s Cache)
Microsoft se negó a comentar sobre la declaración de Breton. OpenAI, cuya aplicación utiliza una tecnología llamada IA generativa, no respondió de inmediato a una solicitud de comentarios.
OpenAI ha dicho en su sitio web que su objetivo es producir inteligencia artificial que “beneficie a toda la humanidad” mientras intenta construir una IA segura y beneficiosa.
Según el borrador de las reglas de la UE, ChatGPT se considera un sistema de inteligencia artificial de propósito general que se puede usar para múltiples propósitos, incluidos los de alto riesgo, como la selección de candidatos para puestos de trabajo y la calificación crediticia.
Breton quiere que OpenAI coopere estrechamente con los desarrolladores intermedios de sistemas de IA de alto riesgo para permitir su cumplimiento con la Ley de IA propuesta.
“El solo hecho de que la IA generativa se haya incluido recientemente en la definición muestra la velocidad a la que se desarrolla la tecnología y que los reguladores están luchando para seguir este ritmo”, dijo un socio de una firma de abogados de EE. UU.
Preocupaciones de ‘alto riesgo’
A las empresas les preocupa que su tecnología se clasifique en la categoría de IA de “alto riesgo”, lo que conduciría a requisitos de cumplimiento más estrictos y costos más altos, según los ejecutivos de varias empresas involucradas en el desarrollo de inteligencia artificial.
Una encuesta realizada por el organismo de la industria de IA aplicada mostró que el 51% de los encuestados espera una desaceleración de sus actividades de desarrollo de IA como resultado de la Ley de IA.
Las regulaciones efectivas de IA deben centrarse en las aplicaciones de mayor riesgo, escribió el presidente de Microsoft, Brad Smith, en una publicación de blog el miércoles.
“Hay días en los que soy optimista y momentos en los que soy pesimista sobre cómo la humanidad pondrá en uso la IA”, dijo.
Breton dijo que la Comisión Europea está trabajando en estrecha colaboración con el Consejo de la UE y el Parlamento Europeo para aclarar aún más las reglas de la Ley de IA para los sistemas de IA de propósito general.
“La gente debería estar informada de que está tratando con un chatbot y no con un ser humano. La transparencia también es importante con respecto al riesgo de sesgo e información falsa”, dijo.
Los modelos de IA generativa deben entrenarse en una gran cantidad de texto o imágenes para crear una respuesta adecuada que conduzca a denuncias de violaciones de derechos de autor.
Breton dijo que las próximas discusiones con los legisladores sobre las reglas de IA cubrirían estos aspectos.
Las preocupaciones sobre el plagio por parte de los estudiantes han llevado a algunas escuelas públicas de EE. UU. y a la universidad francesa Sciences Po a prohibir el uso de ChatGPT.