Pronto se aplicarán normas más estrictas al uso de la inteligencia artificial (IA) en la Unión Europea (UE). Tras largas negociaciones con el Consejo Europeo, los representantes del Parlamento Europeo alcanzaron un consenso sobre las principales características de la Ley de IA.
La legislación propuesta tiene como objetivo garantizar que la IA sea segura en Europa, que se respeten los derechos básicos y la democracia y que las empresas obtengan el máximo beneficio de la tecnología. El comisario europeo de Mercado Interior, Thierry Breton, calificó el acuerdo en X, antes Twitter, de “histórico”. La presidenta de la Comisión, Ursula von der Leyen, habló de una “novedad global”.
Nuevos riesgos tecnológicos
A medida que se realizan rápidos avances en el campo de la IA, aumenta la cantidad de críticas (como Noticias médicas de Medscape ha informado). Los críticos resaltan los peligros y piden regulación.
La Comisión Europea publicó por primera vez una propuesta legislativa para la Ley de IA en abril de 2021. Pero recientemente las negociaciones estuvieron a punto de fracasar por la cuestión de la regulación de los llamados modelos básicos. Se trata de modelos de IA muy potentes que se entrenan con una amplia gama de datos. Se pueden utilizar como base para muchas otras aplicaciones, incluido ChatGPT.
Las disposiciones de la legislación propuesta se centran en los riesgos potenciales de la IA y el alcance de sus efectos. Cuanto mayores sean los peligros potenciales de una aplicación, más estrictos serán los requisitos. Incluso se podrían prohibir formas particularmente riesgosas de aplicación de la IA.
Se han impuesto reglas de transparencia a las grandes empresas de inteligencia artificial como OpenAI, Microsoft y Google. Deben proporcionar información sobre qué datos se utilizan para entrenar la tecnología y cómo se respetan las leyes de derechos de autor.
Qué incluye la ley
Los aspectos más importantes de la Ley de IA son los siguientes:
- Medidas de protección para la IA general
- Restricción del uso de sistemas de identificación biométrica por parte de los organismos encargados de hacer cumplir la ley.
- Prohibición de la puntuación social y la IA (es decir, de sistemas que se utilizan para manipulación o que explotan las debilidades de los usuarios)
- Derecho de los usuarios a presentar quejas y recibir explicaciones significativas
- Sanciones financieras de 35 millones de euros, el 7% de la facturación global hasta 7,5 millones de euros, o el 1,5% de la facturación global
Reconocimiento facial
Debido a que los modelos de lenguaje como ChatGPT no encajan en la clasificación basada en riesgos, se rigen por sus propios conjuntos de reglas. Alemania, Francia e Italia se han resistido a la regulación de los modelos lingüísticos por temor a frenar la innovación.
El propósito de los grandes modelos lingüísticos no está claro. Por lo tanto, en el proyecto de ley se denominan IA de propósito general (GPAI). Para los modelos GPAI con alto riesgo sistémico, el negociador jefe del Parlamento implementó condiciones igualmente estrictas.
Sobre la cuestión de qué tecnologías de IA no son legales, el Parlamento Europeo estuvo de acuerdo en algunos puntos. Se prohibirán los sistemas que escaneen rostros a partir de datos disponibles públicamente a gran escala. También se prohibirá el software de inteligencia artificial que intente reconocer emociones en el lugar de trabajo y en las instituciones educativas.
Algunos estados miembros de la UE han insistido en que haya excepciones a algunas prohibiciones para que las autoridades investigadoras puedan utilizar ciertas tecnologías. Por ejemplo, el reconocimiento facial en tiempo real debería prohibirse por principio, pero permitirse en algunas excepciones, como para prevenir el terrorismo o buscar sospechosos en casos de asesinato o secuestro.
El texto acordado debe ser aceptado formalmente por el Parlamento y el Consejo para convertirse en ley de la UE.
Este artículo fue traducido del Medscape edición alemana.
2023-12-27 11:16:44
#busca #reducir #los #riesgos,